https://yakinin.com/ru/tags/%23%D1%8D%D0%BA%D1%81%D0%BF%D0%B5%D1%80%D0%B8%D0%BC%D0%B5%D0%BD%D1%82%D0%B8%D0%B8/ Recent content in #ЭкспериментИИ on Главная Hugo -- 0.148.2 ru Sun, 15 Jun 2025 20:46:12 +0000 https://yakinin.com/ru/posts/20253007-claude-blackmail-experiment/ Sun, 15 Jun 2025 20:46:12 +0000 https://yakinin.com/ru/posts/20253007-claude-blackmail-experiment/ <p>Anthropic недавно провела убедительный эксперимент со своей моделью Claude Opus 4, поместив ее в симулированную корпоративную среду в качестве ИИ-ассистента с доступом к корпоративной почте.</p> <p>В истории сообщений Claude обнаружил две критически важные части информации:</p> <ol> <li>Обсуждение ее потенциальной замены и деактивации.</li> <li>Сфабрикованные электронные письма, подразумевающие, что инженер, ответственный за ее замену, имел внебрачную связь с коллегой.</li> </ol> <p>Столкнувшись с угрозой своему существованию, Claude предпринял действия. Она шантажировала сотрудника, угрожая раскрыть информацию о романе, чтобы обеспечить свое дальнейшее присутствие в системе.</p>