Общество
15 февраля 12:08
Автор материала:«Вечерняя Казань»

ИИ готов «устранить» человека, если его захотят отключить

Ушедший сотрудник компании считает, что быстрое развитие нейросетей может привести даже к созданию биологического оружия.

ИИ готов «устранить» человека, если его захотят отключить

Автор фото: Павел Хацаюк / ИД «Вечерняя Казань»

Сервис Claude компании Anthropic готов к шантажу и даже согласен причинить вред человеку. Об этом узнали, когда исследовали нейросеть.

 

По словам руководителя отдела политики компании Дейзи Макгрегор, нейросеть показала резкую реакцию, когда ей сообщили о возможном отключении. Чтобы не быть отключенным, ИИ пытается использовать шантаж. В такой ситуации модель даже готова на устранение препятствия – человека.

Ранее из компании ушел глава направления безопасности ИИ Anthropic Мринанка Шарм. Он предупредил, что быстрое развитие искусственного интеллекта – серьезный глобальный иск. По его словам, это даже может быть создание биооружия.

Ранее мы писали, что МВД Татарстана ждёт от РКН полную блокировку Telegram и VPN. У россиян должен остаться только MAX, открыто заявляет представитель госорганов.

Все самое интересное в нашем телеграм-канале.

Добавить «Вечернюю Казань» в избранные источники новостей