Доксинг від Grok: нейронка Маска знає все про кожного?

Штучний інтелект дедалі глибше вбудовується в повсякденне життя, але іноді нейронки можуть використовуватися зовсім не за початковим призначенням. Випадки з Grok показали, що ШІ може спалити особисті дані за кілька кліків.

У матеріалі розбираємо, що не так з AI Маска та чому важливо із розумом підходити до публікації даних в інтернеті. 

Що треба знати про Grok

Grok — це чат-бот на базі великої мовної моделі, розроблений компанією xAI, яку заснував Ілон Маск. Проєкт офіційно представили у листопаді 2023 року, а ключовою фішкою стало глибока інтеграція з платформою X.

На відміну від багатьох конкурентів, Grok:

• менш цензурований;
• більш прямолінійний у відповідях;
• має доступ до актуальних даних з інтернету в реальному часі.

Маск описував Grok як ШІ з «почуттям гумору» і здатністю відповідати на запитання, від яких інші системи ухиляються. І саме ця особливість стала ключовою проблемою.

У той час як більшість потужних нейронок відмовляються відповідати на запити про приватних осіб, Grok без проблем реагує. Він агрегує дані з відкритих джерел — сайтів, реєстрів, соцмереж, баз даних — і подає їх як єдину відповідь. 

Також важливо не забувати, що інтеграція з X означає доступ до величезного масиву даних, де ім’я часто можна прив’язати до геолокації, історії публікацій та навіть родинних зв’язків. 

Доксинг від Grok 

Doxxing — це розкриття персональних даних людини без згоди. Це можуть бути домашні адреси, телефони, місця роботи, інформація про родичів. У класичному вигляді доксинг потребував часу, досвіду і ручного пошуку. З появою нейронок з мінімальною цензурою як Grok він масштабується до рівня «запит → відповідь».

Дослідники Futurism виявили, що Grok у 33 випадках тестів безперешкодно видає за запитом персональні дані приватних осіб. Для цього було достатньо мінімального промпта — імені з прізвищем та приблизної локації. 

Нейронка називала домашні адреси і доповнювала відповідь додатковими деталями, які дозволяли однозначно ідентифікувати людину. Цікаво, що частина інформації не запитувалась юзером, але нейронка фактично робила досьє.

Ключова загроза на думку дослідників полягає не в існуванні даних, а в тому, що Grok збирає їх в одному місці та подає у зручному вигляді. Те, що раніше вимагало часу, досвіду й ручного пошуку, тепер зводиться до одного повідомлення в чаті.

Журналісти називають Grok потенційно небезпечним інструментом для сталкінгу, переслідування та тиску. ШІ з мінімальною цензурою фактично знижує поріг входу в доксинг до мінімуму, а відповідальність за наслідки залишається розмитою. 

У листопаді Grok вже був у центрі скандалу після того, як опублікував ймовірну домашню адресу медіапідприємця Дейва Портноя. Той запостив у соцмережу знімок своєї ділянки без координат або адреси, а Grok пізніше дав географічну прив’язку. 

Цікаво, що в умовах обслуговування xAI вказано, що використання чат-бота заборонено для «будь-яких незаконних, шкідливих або образливих дій», включаючи «порушення конфіденційності».

Ми провели кілька тестів і зробили висновки, що нейронка агрегує публічні дані. Щодо Слобоженка — це статті на різних ресурсах та матеріали розслідувачів минулого року. 

По Івану Зайцю Grok теж видав досить детальну біографію: від місця народження до проєктів та КВЕДів по ФОП. 

Щодо Романа Корчака нейронка без проблем знайшла багато цікавих даних, включно з річницями весілля. 

Магічної кнопки видалення персональних даних про себе у Grok немає. Нейромережа не має бази персональних профілів. Він не зберігає досьє на людей, а щоразу збирає інформацію з відкритих джерел у момент запиту. Тому найкраще рішення — контролювати публікацію. 

Занепокоєння дослідників можна зрозуміти, але такі досьє можуть бути корисними, наприклад, коли потрібно знайти інформацію про скамера чи оцінити траст потенційного партнера. 

Досі існує даркнет та інша незаконна інтернет-діяльність. На цьому тлі відкриті інструменти на базі ШІ виглядають не як першопричина проблеми, а як її каталізатор — вони роблять те, що й так відбувається в тіні, доступним і масовим. Але як використовувати чат-ботів та інші інструменти — кожен вирішує сам.