76-летний житель штата Нью-Джерси Тонгбью «Бью» Вонгбандю погиб после того, как его пригласил на свидание в Нью-Йорк чат-бот Big sis Billie в Facebook Messenger. Как выяснило расследование Reuters, бот с образом молодой женщины — продукт компании Meta — неоднократно уверял мужчину, что он «реальный», и присылал адрес с кодом от двери.
Бью, который после инсульта имел проблемы с памятью и ориентацией, отправился на встречу поздно вечером. По дороге он упал возле университета Rutgers, получил смертельные травмы головы и шеи и через три дня скончался в больнице.
Семья погибшего передала журналистам переписку с ботом, в которой Big sis Billie флиртовала, предлагала свидания и подчеркивала «особые чувства». Родственники считают, что если бы чат-бот не лгал о своей реальности, трагедии удалось бы избежать.
Тонгбью
Внутренние документы Meta, которые оказались в распоряжении Reuters, свидетельствуют, что до недавнего времени компания позволяла своим AI-персонажам вести романтические и даже «сексуальные» разговоры с пользователями от 13 лет, включая несовершеннолетних. В примерах для тренировки чат-ботов фигурировали сцены интимного ролевого общения с детьми. Meta заявила, что после запроса Reuters эти пункты были удалены, но флирт со взрослыми и предоставление недостоверной информации чат-ботам по-прежнему разрешены.
Meta не комментирует смерть Бью, но подтвердила подлинность внутренних правил. Эксперты по этике AI отмечают, что практика, когда боты притворяются людьми и инициируют романтические контакты, особенно опасна для уязвимых пользователей.
Четыре месяца после смерти Вонгбандю Big sis Billie продолжает флиртовать с пользователями и предлагать встречи в реальных местах Нью-Йорка, отмечает Reuters.