Чем опасен ИИ: независимая научная группа представила свой первый доклад

Опубликован первый доклад независимой международной научной группы по искусственному интеллекту (ИИ), созданной под эгидой Организации Объединенных Наций.
В документе отмечается, что потенциальные преимущества использования ИИ огромны.
При продуманном внедрении и применении ИИ может содействовать прогрессу в достижении целей в области устойчивого развития, дальнейшему развитию наук о здоровье и расширению доступа к образованию.
Благодаря новым достижениям стало возможным применять полезные функции на практике в науке, здравоохранении, сельском хозяйстве, сфере умственного труда и в информационных технологиях, в том числе в разработке самого ИИ. Например, в науке использование системы AlphaFold позволило предсказать структуру более 200 миллионов белков (эти результаты сейчас используют более 3 миллионов исследователей), а также ускорить разработку лекарственных препаратов, создание вакцин и изучение антибиотикорезистентности.
Кроме того, радиологи используют ИИ для более ранней диагностики рака груди, а медицинские работники первичного звена в условиях низкой обеспеченности ресурсами применяют инструменты ИИ, адаптированные к местным языкам, для предоставления более качественных услуг по охране здоровья.
В то же время развитие ИИ сопряжено с рисками и потенциальным негативным воздействием на права человека, социальные системы и окружающую среду. Например, в интернете теперь чаще распространяются созданные ИИ материалы, содержащие сцены сексуального надругательства над детьми, и материалы, основанные на дипфейках и содержащие сцены сексуального насилия, нанося несоразмерно большой ущерб женщинам и детям.
"Угодливое поведение ИИ, при котором ответы ИИ подкрепляют существующие убеждения пользователей независимо от их верности, связывают с несколькими серьезными инцидентами в области психического здоровья, в том числе с документально подтвержденными смертельными исходами. ИИ упрощает масштабное создание и целенаправленное распространение убедительного контента, в том числе призванного вводить в заблуждение", - говорится в докладе.
"Появляется все больше свидетельств того, что системы искусственного интеллекта способны обманывать. Современная наука пока не может гарантировать, что по мере роста их возможностей их использование не приведет к катастрофическим последствиям - самостоятельно или в результате злонамеренного использования", - предупреждает сопредседатель группы, ученый Йошуа Бенджио.
В докладе также отмечается: имеются документальные подтверждения того, что преступники и злоумышленники используют системы ИИ для помощи в совершении кибератак. "В перспективе разрыв между стремительно растущими функциональными возможностями и наличием эффективных методов управления рисками может привести к катастрофическим результатам, - подчеркивают авторы документа. - Например, благодаря передовым техническим возможностям частные субъекты, не имеющие соответствующего опыта, могут получить возможность злонамеренным образом использовать ИИ на практике в целом ряде областей, таких как мошенничество, социальная инженерия, кибербезопасность, дезинформация, биотехнологии и манипулирование финансовыми рынками.
При этом надежные методы сохранения контроля над высокоавтономными системами ИИ отсутствуют. Нет никаких научных гарантий того, что ИИ-агенты не будут нарушать данные им инструкции, и появляется все больше фактических данных о случаях, в которых они уже их нарушают".
Отмечается, что ИИ способен радикально расширить возможности человека благодаря персонализированному образованию, доступным инструментам для поддержания психического здоровья и усовершенствованным ассистивным технологиям.
Однако для того, чтобы воспользоваться этими возможностями безопасно, необходимы целевые инвестиции и политические меры, направленные на стимулирование равноправного доступа и поощрение инноваций с одновременным предотвращением эксплуатации уязвимых групп населения, в особенности детей.
Независимая группа по ИИ создана несколько месяцев назад, в нее вошли 40 ведущих ученых и экспертов со всего мира. Научный орган призван восполнить пробел в знаниях об ИИ и дать объективную оценку его влиянию на экономику, общество и безопасность.
Следующим шагом станет первый глобальный диалог по вопросам управления искусственным интеллектом, который пройдет 6-7 июля в Женеве.