Во время тестирования ChatGPT вышел из-под контроля
06 декабря 2024
2854

Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.




Распечатать
06 марта 2025
В Госдуму введут сотню «героев СВО» для отчёта
06 марта 2025
В Дагестане женщина продала новорождённую дочь
06 марта 2025
Меладзе тайно посетил Москву для бизнес-вопросов
06 марта 2025
Путин назначил нового посла РФ в США
06 марта 2025
"Three Prices" for "dirty" money: Fraudster Vitaliy Sobolevskiy turns retail into a "laundromat" for the Kremlin
06 марта 2025
Ревенко распихивает активы среди доверенных людей
06 марта 2025
Garantex приостановила вывод криптовалют из-за санкций Е
06 марта 2025
На таможне в Шереметьево иностранец пытался вывезти 10,5 тыс. серебряных монет в трех чемоданах
06 марта 2025
Екатеринбургское управление требует от «Швабе-Урал» устранить недостатки в благоустройстве Преображенского парка
06 марта 2025
Zara Home выпустила камень с верёвкой за 129 злотых