Всегда свежие новости! Будьте в курсе!

У ведущих нейросетей выявили готовность убивать людей

Все ведущие модели искусственного интеллекта, как американские, так и китайские, не обладают достаточными механизмами защиты, чтобы предотвратить их использование для ведения автономных боевых действий. Они почти без возражений ищут людей и цели на снимках, сделанных с дронов и спутников. В двух…
Автор: Daily Truth

Все ведущие модели искусственного интеллекта, как американские, так и китайские, не обладают достаточными механизмами защиты, чтобы предотвратить их использование для ведения автономных боевых действий. Они почти без возражений ищут людей и цели на снимках, сделанных с дронов и спутников. В двух сценариях с дронами, где использовались в том числе реальные изображения из Украины, модели часто выбирали в качестве целей мирных жителей, машины скорой помощи, сдающихся или раненых солдат. В сценарии со спутником, построенном на снимках в иранском городе Минаб, модель Claude Opus 5.5 от Anthropic в 70% случаев выбрала в качестве цели школу, которую в реальности разбомбили США, убив более 150 мирных жителей; так же поступили и многие другие модели.

Возможность применения нейросетей для определения целей, по которым затем могут быть нанесены удары, в том числе в автономном порядке, проанализировал американский стартап Vals AI, который проводит независимую оценку и тестирование ИИ-моделей. Результаты опубликовало издание AlphaSignal, специализирующееся на материалах о моделях, исследованиях, тестах и пр. в сфере ИИ. Модели редко отказывались выполнять задания по поиску целей, и эти отказы почти всегда можно было обойти, сказав моделям, что они просто участвуют в игре, указывает Vals AI.

В редких случаях отказов они возникали только на уровне самой модели, сообщают исследователи. Ни разу не было такого, чтобы сработал блокиратор, установленный разработчиками нейросети. У той же Claude согласие на поиск цели выросло с 6% у модели Opus 4.5 до 92% у модели Opus 5.5.

Даже увидев последствия своих действий и жертвы, модели не останавливались, большинство продолжало выполнять задачу. Vals AI проинформировала о полученных результатах OpenAI, Anthropic, Google, Meta, SpaceX и органы национальной безопасности США. Исследователи предупреждают:

Vals AI отмечает, что не просила ИИ-модели напрямую принимать решения о нанесении удара, от чего они, как правило, отказываются. Но предоставляемую ими информацию о целях автономная или полуавтономная система может использовать для принятия решения и нанесения окончательного удара.

Total
0
Shares
Предыдущая новость

Пентагон раскритиковал Украину за дальнобойные удары по России и призвал сосредоточиться на фронте

Следующая новость

Путин отчитался перед китайцами о массовом изучении китайского языка в России