Компания Google обновила свои этические принципы в отношении искусственного интеллекта, удалив из них запрет на использование этой технологии в оружии и системах наблюдения. Об этом сообщает WP.
До 30 января на странице принципов Google содержался раздел «Применение, которые мы не будем развивать», где среди запрещенных направлений значились именно оружие, наблюдение, технологии, которые могут нанести всеобщий вред, и разработки, противоречащие международному праву и правам человека. Однако в новой версии эти положения были удалены.
Как пояснили в блоге руководитель Google DeepMind Демис Хассабис и старший вице-президент компании по вопросам технологий и общества Джеймс Маника, изменения связаны с тем, что искусственный интеллект стал значительно более распространенным, а также с необходимостью поддержки правительств и национальной безопасности демократических стран.
«Мир находится в состоянии глобальной конкуренции за лидерство в сфере ИИ в условиях сложного геополитического ландшафта. Мы считаем, что именно демократии должны возглавлять разработку искусственного интеллекта, опираясь на такие основные ценности, как свобода, равенство и уважение к правам человека», — заявили представители компании.
Обновленные принципы предусматривают использование человеческого надзора и учета обратной связи, чтобы обеспечить соответствие технологий «широко признанным принципам международного права и прав человека». Кроме того, компания заявила, что будет тестировать свои разработки, чтобы «уменьшить непредвиденные или вредные последствия».
Представитель Google отказался отвечать на конкретные вопросы относительно политики компании в сфере разработки оружия и систем наблюдения.
Напомним, что в 2018 году Google впервые обнародовала свои принципы ИИ после протестов сотрудников против контракта с Пентагоном в рамках проекта Maven, который использовал компьютерное зрение для анализа видеозаписей с дронов. Тогда компания отказалась продолжать сотрудничество.