Топ-менеджер Google предупредил о "галлюцинациях" у чат-ботов с ИИ

Основанные на алгоритмах искусственного интеллекта чат-боты могут представлять угрозу для пользователей в силу своего несовершенства — у них случаются своего рода "галлюцинации", заявил старший вице-президент компании Google и глава подразделения Google Search Прабхакар Рагхаван (Prabhakar Raghavan) в интервью немецкой газете Welt am Sonntag, пишут СМИ.
"Разновидность ИИ, о которой мы сейчас говорим, иногда приходит к тому, что мы называем галлюцинациями. Это выражается в том, что машина даёт убедительный, но полностью выдуманный ответ", — заявил господин Рагхаван. И добавил, что одной из фундаментальных задач является сведение числа таких инцидентов к минимуму.
Google впервые начала проигрывать на поле технологий для веб-поиска после того, как Microsoft за $10 млрд заручилась поддержкой компании OpenAI, которая недавно представила революционный проект ChatGPT. Языковая ИИ-модель в удивительно человечной манере отвечает на запросы: дошло до того, что чат-бота пригласили на собеседование, а ещё он написал дипломную работу.
Поисковый гигант на днях представил собственного чат-бота Bard, которого не смогли уберечь от "галлюцинации" даже в рекламном ролике — он дал явно недостоверный ответ на вопрос по астрономии. Это вызвало недовольство научного сообщества, а акции владеющего Google холдинга Alphabet рухнули на 8 %. "Мы, конечно, осознаём срочность [решения проблемы], но также ощущаем большую ответственность. И определённо не хотим вводить общественность в заблуждение", — добавил глава Google Search.