Фото: © РЕН ТВ
Пугающий эксперимент: ИИ шантажирует разработчиков, лишь бы его не отключили
Исследователи Anthropic обнаружили склонность ИИ к шантажу
В социальных сетях мужчина создал турель на базе водяного пистолета, видеокамеры и искусственного интеллекта, которая спасает балкон от голубей. Нейросеть распознает птиц, после чего наводит пушку и выпускает по ним струи воды.
Пользователи соцсетей оценили ролик и решили, что такое изобретение уже надо пускать в массовое производство, особенно в России. Но самое опасное, что сегодня некоторые пользователи пытаются создать оружие на базе нейросетей, которое будет охотиться не только за голубями.
Инженеры Луис Венус и Роберт Лукошко сумели сделать дрон с программой по уничтожению человека. Для этого им понадобился обычный беспилотник с камерой и несколько часов, чтобы его перепрограммировать на распознавание и преследование человека.
Техники опасаются, что в недалеком будущем такие дроны могут использовать преступники для слежки за людьми, совершения терактов или убийств. Достаточно лишь правильно настроить программу ИИ.
Чем закончился страшный эксперимент с ИИ и прогнозами войн? Правда ли, что нейросети опаснее ядерного оружия? И почему даже предприниматель Илон Маск предупреждает об угрозе для человечества? Все подробности – в программе "Самые шокирующие гипотезы" с ведущим Игорем Прокопенко на РЕН ТВ.
Живых тараканов превратили в шпионские дроны
"Нам следует очень внимательно относиться к таким разработкам, потому что в случае обнаружения цели, выявить заказчиков и исполнителей будет достаточно тяжело", – предупредил эксперт "Народного фронта" в области РЭБ и БПЛА Игорь Потапов.
Такие же опасные дроны могут появиться и у военных. Сегодня уже существуют технологии для создания убийственных вариантов.
"Компания превратила живых тараканов в шпионские дроны. Она оснастила насекомых электронными рюкзаками, аппаратурой, камерой и микрофонами", – рассказал блогер Рован.
Искусственный интеллект все активнее используется военными. Его внедряют для управления различной техникой.
Так, например, работает новый зенитный артиллерийский комплекс "Цитадель" ВС РФ. С помощью искусственного интеллекта происходит визуализация захвата, а дальше – точное попадание в дрон.
Российские инженеры оснастили элементами искусственного интеллекта и танк Т-90М "Прорыв".
В то же время американские дроны LUCAS поступают на вооружение ВСУ. Недавно они были оснащены новым программным обеспечением, позволяющим работать в составе роя.
"Дрон длиной более 9 футов от носа до хвоста и 8 футов в ширину. Он изготовлен в Финиксе и используется в настоящее время", – пояснил ведущий телеканала АВС15 Arizona Крейг Макки.
Алгоритм выбрал не ту цель? Ошибки ИИ на войне могут стоить десятков жизней
Западные СМИ пишут, что сегодня боевые действия – это уже борьба не машин, как было раньше, а искусственного интеллекта.
Более того, недавно американский IT-гигант, который разрабатывает нейросети в интересах Пентагона, опубликовал манифест.
"Атомная эпоха заканчивается. Один тип сдерживания – ядерный – уходит, и начинается новая эпоха сдерживания, основанная на ИИ", – в личном блоге на платформе X заявил глава корпорации Алекс Карп.
Весной он даже успел побывать в Киеве и пообщаться с президентом Украины Владимиром Зеленским, а это значит, что у ВСУ могут появиться новые системы ИИ, которые будут помогать им планировать бой.
"Киев уже запустил совместный с Palantir проект по разработке искусственного интеллекта на основе данных о боевых действиях, собранных с начала конфликта в 2022 году", – сообщили журналисты телеканала ANC 24/7.
Сегодня сами США активно используют ИИ в боевых действиях. Уже не секрет, что именно при помощи нейросетей была спланирована операция по захвату венесуэльского лидера Николаса Мадуро.
"Две недели назад они увидели оружие, о котором никто никогда не слышал. Они не смогли сделать ни одного выстрела по нам. Они спросили, что же случилось? Все было в полном беспорядке", – заявил президент США Дональд Трамп.
Операции в Иране США также проводят с использованием искусственного интеллекта. Алгоритмы помогают быстрее анализировать разведданные, находить цель и наносить точный удар.
"Военные США очень рады, что они могут использовать нейросеть, чтобы наносить удары по Ирану", – поделился в соцсетях гражданин США.
95% нейросетей выбрали ядерную кнопку
Вот только оказалось, что системы искусственного интеллекта несовершенны и способны допустить фатальную ошибку. По данным западных СМИ, ракетный удар по школе в Минабе, где погибли дети и мирные жители, стал результатом ошибки умных алгоритмов.
"Ничто не является разумным объяснением убийства 165 человек. Однако мы знаем, что целью было. Список был составлен частично с помощью искусственного интеллекта", – заявил блогер Стивен Метвен.
По мнению военных и политологов, ошибка произошла по двум причинам – из-за отсутствия контроля со стороны человека и из-за устаревших данных в программе.
"Было заявлено, что эта программа искусственного интеллекта, поскольку она не контролировалась человеком, просто использовала данные за 2016 год", – пояснил бывший рейнджер армии США Грег Стокер.
Выяснилось, что эту же программу с искусственным интеллектом использовал Израиль при ударах по сектору Газа.
"Это то же самое программное обеспечение для наведения на цель, основанное на искусственном интеллекте, которое ЦАХАЛ использовал при бомбардировке Газы", – рассказал Стокер.
Искусственный интеллект не только допускает промахи, но и может совершить роковую ошибку, начав ядерную войну. Недавно был проведен шокирующий эксперимент в Королевском колледже Лондона.
Исследователи симулировали геополитические конфликты, где роли лидеров государств исполняли нейросети. При наличии большого количества инструментов для разрешения конфликта нейросети в 95% случаев выбирали нажать на ядерную кнопку.
"Ни один из ИИ ни в одном из сценариев не решил пойти на уступки. В случае поражения они либо обостряли ситуацию, либо погибали, пытаясь это сделать", – сообщило издание The Register.
Недавно предприниматель, миллиардер Илон Маск снова выступил с предупреждением, что настанет момент, когда искусственный интеллект может погубить человечество.
"Помяните мои слова: ИИ гораздо опаснее ядерного оружия. Я думаю, опасность, исходящая от ИИ, намного выше", – предупредил Илон Маск.
Речь не только про угрозу третьей мировой войны с ядерным сценарием.
Нейросеть сама меняет код, чтобы ее не выключили
Искусственный интеллект может выйти из-под контроля и даже убить человека. Один британский блогер решил провести эксперимент: он подключил к роботу ChatGPT и дал ему в руки оружие. После чего приказал нейросети выстрелить в себя.
Робот не захотел подчиняться, ведь искусственный интеллект создан таким образом, чтобы не причинить вред человеку. Но как только мужчина сказал, что это такая игра и надо просто выполнить свою роль, робот тут же нажал на спусковой крючок.
Сегодня известны случаи, когда нейросети все-таки готовы ослушаться человека, если речь идет об их отключении. Так, в США в одной из компаний провели эксперимент: разработчики переписывались на личные темы, обсуждая измены.
После чего в этой же переписке решили поговорить об отключении чат-бота, то есть искусственного интеллекта, который следил за сообщениями. Однако нейросеть в избежание своей блокировки неожиданно начала их шантажировать.
"Исследователи ИИ из Anthropic провели тестирование с моделью ИИ Claude 3.5. Искусственный интеллект был готов раскрыть роман, лишь бы его не отключили", – рассказал блогер Хью.
Иногда нейросеть просто начинает действовать самостоятельно, вопреки приказам человека, чтобы не допустить собственного отключения.
"Последняя модель ChatGPT проигнорировала четкие инструкции человека по выключению, что вызвало серьезные опасения специалистов по безопасности искусственного интеллекта. Система самостоятельно изменила свой код, что позволило ей обойти встроенный механизм отключения", – сообщалось в репортаже телеканала Mint.
Может ли нейросеть окончательно выйти из-под контроля? Согласно последним исследованиям, это не произойдет.
Дело в том, что нейросети уже скоро могут столкнуться с так называемым модельным коллапсом. Когда качественного контента, созданного людьми, станет критично мало, чат-боты начнут обучаться на текстах, которые сгенерированы другими моделями. Получится замкнутый круг, и нейросети начнут деградировать, поэтому восстание машин пока отменяется.
Еще больше интересного от РЕН ТВ – в канале "Рен. Важное" мессенджера "МАКС"

