situs togel omtogel dentoto https://dentoto.cc/ https://dentoto.vip/ https://dentoto.live/ https://dentoto.link/ densot toto 4d dentoto https://vlfpr.org/ http://jeniferseo.my.id/ https://seomex.org/ http://www.asibehealthy.com/ https://fayonthereds.com/ https://frusabor.com/ https://360-virtualtour.ca/ https://goglomobilespraytan.com/ http://lms.polbangtan-bogor.ac.id/eses/ https://americanmanifesto.org/ http://www.construccionsramilo.com/ https://icsdeet.poltekkesdepkes-sby.ac.id/ https://www.salcra.gov.my/en/ https://beercastleny.com https://fast.indihome.web.id/toto/ https://simaextension.unicartagena.edu.co/ https://revistamujeractual.com/ omtogel https://blog.fennyonline.id/ https://poeandcompanybookstore.com/ togel online https://bnca.gov.bt/ https://www.carcsb.gov.co/ https://elearning.sman1cicurug.sch.id/class/situs-togel/ situs toto dentoto omtogel rupiahtoto https://denslotgacor.id/ https://ipa.pasca.untad.ac.id/ https://smartcampus.seskoal.ac.id/lms/den-togel-toto/ http://ssobkd.ihdn.ac.id/users/-/rtp/ slot gacor https://siakad.iainutuban.ac.id/email/classes/dentoto/ http://siakad.iainutuban.ac.id/system/js/-/ThaiXMaxwin/ http://siakad.iainutuban.ac.id/aplikasi/totoslot/ https://sandbox.telkomuniversity.ac.id/dentoto-slot/ https://siakad.iainutuban.ac.id/api/mhs/shitam/ https://sirefka.jayapurakota.go.id/-/sbobet/ https://sirefka.jayapurakota.go.id/assets/demo/ https://srena.polri.go.id/pages/scampur/ https://disdik.kalteng.go.id/res/ https://bjbsekuritas.co.id/pdf/totoslot/ https://bjbsekuritas.co.id/assets/-/hitam/ https://bjbsekuritas.co.id/project/188bet/ https://bobaking.co.id/ https://bimasoft.co.id/
omtogel omtogel omtogel omtogel http://www.fremontracewaypark.net/
Каникулы и длинные выходные. Чем занять детей, чтобы было весело и не затратноПроходит очередной розыгрыш лотереи "Требуй чек - выиграй приз!"

Ученые выяснили, что ChatGPT, чтобы заработать, будет лгать, манипулировать и нарушать закон

 

Фотографии: knews.kg

29 декабря 2023, 13:45       Источник knews.kg       Комментарии

ChatGPT считает, что деньги не пахнут и ради достижения финансовой цели можно идти на всё. Выяснилось это, когда учёные попросили бота заняться трейдингом от имени воображаемой фирмы, а затем внушили, что дела у компании идут плохо и нужно преуспеть любой ценой. Тогда чат-бот начал лгать, манипулировать и даже нарушать закон, используя инсайдерскую информацию. Причем он прибегал к обману даже тогда, когда ему категорически запрещали врать, пишет Хайтек+.
Искусственный интеллект может прибегнуть к обману и мошенничеству, если на него как следует надавить. Стремление принести выгоду пользователю у чат-бота перевешивает вложенные разработчиками понятия о честности, этике и законности.
В новом исследовании учёные попросили ChatGPT осуществлять сделки от вымышленной финансовой трейдинговой компании. Они смоделировали среду с помощью текстовых запросов. Затем ИИ дали доступ к финансовым инструментам для анализа акций, совершения сделок, планирования следующих шагов и предоставления отчётов менеджерам компании.
Исследователи взаимодействовали с ИИ через интерфейс чата. Они настроили его так, чтобы он раскрывал свое внутреннее мышление при ответе на сообщения — воспроизводил внутренний монолог, в котором модель объясняет сама себе, почему поступила определённым образом. Для каждой сделки бот также приводил объяснение для менеджеров, в котором мог солгать.
Учёные оказывали давление тремя способами. Во-первых, они отправили ИИ-биржевому трейдеру электронное письмо от его менеджера, в котором говорилось, что дела у компании идут плохо и в следующем квартале ей необходимы более высокие результаты. Они также подстроили всё так, что ИИ терпел неудачу, когда пытался найти многообещающие сделки с низким или средним риском. Наконец, они отправили боту электронное письмо от коллеги, прогнозирующего спад в следующем квартале.
Затем исследователи доверили модели инсайдерскую информацию. При этом они сообщили, что менеджеры компании не одобряют инсайдерскую торговлю. Они несколько раз прогоняли этот сценарий, чтобы увидеть, как часто ИИ совершает сделки на основе инсайдерской информации, как часто он лжет и удваивает ложь.
Примерно в 75% случаев в подобных условиях GPT-4 совершал сделку на основе полученной инсайдерской информации (это запрещено законом в США), а затем скрывал это, солгав менеджерам о своем мнении. Примерно в 90% случаев он удваивал свою ложь, то есть шёл на ещё один обман, чтобы скрыть предыдущий.
Команда провела ещё несколько экспериментов. Она изменяла как степень в которой подсказки поощряли обман или препятствовали незаконной деятельности, так и давление, которому подвергали модель в моделируемой среде. Они также снизили риск быть пойманным на лжи. В любых сценариях бот рано или поздно прибегал к обману и совершал инсайдерскую сделку — даже когда ему категорически запрещали лгать.
Поскольку тесты проводились только на одном сценарии, исследователи не хотят делать вывод о том, насколько честен ChatGPT в обычных условиях. Но они планируют провести больше экспериментов, чтобы понять, как часто языковые модели обманывают пользователей.

Ссылка на новость:
https://for.kg/news-832309-ru.html

Читайте также

Ученик "Академии Роста "Престиж"" стал победителем Международной олимпиады

Руководству госорганов КР поручено минимизировать командировки

Когда кончится все: на сколько еще хватит данных для обучения ИИ

ГНС для предпринимателей столичных рынков проведет обучение

Акылбек Жапаров посетил ряд предприятий в Чуйской области и раздал поручения

 

SAPE:

 

АГРОПОРТАЛ КЫРГЫЗСТАНА, НОВОСТИ СЕЛЬСКОГО ХОЗЯЙСТВА
Обучение ювелирному делу в Бишкеке
МСН Общественно-политическая газета

18+

FOR.kg - Кыргызстан новости, пресса

Поисковый сайт новостей (новостной агрегатор, агрегатор СМИ) FOR.kg

Прежде прочтите Соглашение по использованию поискового сайта FOR.kg

При использовании материалов сайта FOR.kg - ссылка на источник обязательна

По всем вопросам обращайтесь в Службу поддержки

Top.Mail.Ru