В ВОЗ призывают не верить на слово искусственному интеллекту в вопросах медицины

Всемирная организация здравоохранения призывает в вопросах медицины относиться к "познаниям", созданным искусственным интеллектом больших языковых моделей, "с осторожностью". Об этом сообщают "Новости ООН".
Речь идет о таких быстро набирающих популярность платформах, как ChatGPT, Bard, Bert и других, которые имитируют человеческое общение. Их стремительное распространение в обществе и растущее экспериментальное использование в целях, связанных со здравоохранением, вызывает значительный интерес и настороженность экспертов ВОЗ. Они считают, что необходимо тщательно изучить риски, возникающие при их использовании, особенно принимая связанные со здоровьем решения.
В организации в целом с энтузиазмом относятся к надлежащему использованию новых технологий для поддержки медицинских работников, но в то же время эксперты опасаются, что поспешное внедрение непроверенных систем может привести к ошибкам медицинских работников, нанести вред пациентам, подорвать доверие к искусственному интеллекту и тем самым отсрочить применение таких технологий во всем мире.
Среди проблем, связанных с применением больших языковых моделей в здравоохранении, вызывает обеспокоенность, например, качество данных, используемых для обучения искусственного интеллекта - они могут быть предвзятыми или неточным и представлять риск для здоровья.
"Языковые модели также могут не защищать конфиденциальные данные, которые пользователь предоставляет приложению для создания ответа. Ответы, сгенерированные языковой моделью, могут казаться авторитетными и правдоподобными для конечного пользователя. Однако они могут быть полностью неверными или содержать серьезные ошибки, а также использоваться не по назначению, например для создания и распространения весьма убедительной дезинформации в виде текстового, аудио- или видеоконтента", - говорится в сообщении.
ВОЗ предлагает разобраться с этими проблемами и получить четкие доказательства пользы больших языковых моделей до их широкого использования в здравоохранении и медицине.