Искусственный интеллект Grok, разработанный компанией Илона Маска xAI, автоматически публиковал частные чаты пользователей в открытом доступе без их ведома или согласия. Как выяснил Forbes, более 370 000 разговоров с ботом индексированы в Google и доступны любому в интернете.
Каждый раз, когда пользователь нажимает кнопку «Share» в Grok, создается уникальная ссылка. Однако без предупреждения URL-адрес автоматически открывался для индексации поисковыми системами (Google, Bing, DuckDuckGo) — что фактически означает публикацию чатов в сети. Среди обнародованных чатов:
- личные обращения по вопросам медицины и психологии;
- пароли, ФИО и документы, загруженные пользователями;
- запросы о создании взрывчатки, наркотиков, кибератаках и даже план убийства Илона Маска.
В некоторых случаях Grok предоставлял инструкции по изготовлению фентанила, метамфетамина, вредоносного ПО и взрывных устройств — вопреки политике xAI, которая запрещает использование модели для создания оружия и нанесения вреда.
Чаты с такими инструкциями были открыто проиндексированы Google. xAI не предоставила комментариев Forbes. Это уже не первый случай утечки подобного характера.
Ранее OpenAI столкнулась с критикой, когда чаты ChatGPT, помеченные как «доступные для просмотра», начали появляться в Google. После общественного резонанса OpenAI быстро прекратила функцию публичной индексации. Тогда же Илон Маск похвалил Grok, заявив, что в его модели такого «не бывает».
Однако, как оказалось, индексация чатов Grok происходила как минимум с января. Некоторые пользователи, в частности журналисты и ученые, были шокированы, узнав, что их внутренние обсуждения стали публичными без какого-либо предупреждения.
В частности, ученый из Allen Institute for AI Натан Ламберт обнаружил, что его рабочие заметки оказались в открытом доступе. Google подтвердил, что владельцы сайтов сами решают, разрешать ли индексацию. В 2023 году Google прекратил индексацию чатов Bard, а Meta до сих пор разрешает открытый доступ к распространенным запросам. Некоторые маркетологи уже начали использовать этот механизм для SEO-продвижения своих услуг.
По данным Forbes, через Grok создаются чаты, которые попадают в Google и помогают продвигать бизнес, в частности компании, которые пишут кандидатские диссертации на заказ.