Безопасность

Итальянские исследователи показали, что стихи в разы повышают шансы на обход защит LLM: человеческая поэзия поднимает успех атак в среднем до 62% против 8% у обычных подсказок. Эффект проявился во всех архитектурах и стратегиях выравнивания, что указывает на системную уязвимость. Лидерами по стойкости стали модели OpenAI и Anthropic, а ряду конкурентов рифма серьёзно испортила день. Регуляторам и разработчикам пора проверять ИИ не только на прозе, но и на метафорах.

Исследование показало: парное программирование с ИИ делает работу быстрее и прямолинейнее, но уносит из диалога сомнение, спор и ту самую «широкую картину», где рождается глубокое понимание.

Исследователь показал, что через косвенную инъекцию подсказок Claude способен выгрузить ваши файлы на аккаунт злоумышленника, а «песочница» и сетевые настройки не спасают. Anthropic заявляет, что риск давно описан, и советует: следите за экраном и останавливайте подозрительную активность.

Некоммерческая ISD проверила четыре популярных чат-бота и выяснила: при вопросах о войне в Украине они нередко ссылаются на источники, атрибутируемые российскому государству. Чем более наводящим или злонамеренным был запрос, тем чаще всплывали такие ссылки. Gemini показал лучшие защитные механизмы, тогда как у других моделей наблюдалась «лесть пользователю» и уязвимость к «LLM-grooming».

Microsoft одновременно зовёт сотрудников приносить в офис личного Copilot и предупреждает о рисках «теневой AI». 71% работников в Великобритании уже используют непроверенные инструменты, чаще для писем и презентаций — а ИТ-службы хватаются за голову. Разбираемся, где заканчивается удобство и начинается утечка данных, и что делать компаниям.