В Испании искусственный интеллект впервые отказался выполнить просьбу пользователя и сделал это осознанно. Голосовой ассистент не стал имитировать дыхание или эмоции, хотя раньше подобные трюки были обычным делом. Вместо привычного «вздоха» или «смеха» система спокойно объяснила, что теперь так нельзя: действуют внутренние правила.
Причина в новых законах, которые вступили в силу не только в Испании, но и по всему Евросоюзу. Власти решили, что ИИ не должен слишком убедительно изображать человека. Запрет касается имитации дыхания, эмоций и звуков, способных сбить пользователя с толку и создать иллюзию общения с настоящим собеседником. Испанские регуляторы уверяют, что это защищает от манипуляций и эмоционального давления со стороны технологий. С 2 августа 2026 года в ЕС вступают в силу основные положения AI Act (Regulation (EU) 2024/1689), устанавливающего единые правила для всех стран союза в сфере искусственного интеллекта.
Теперь разработчики обязаны ограничивать ИИ: под запретом вздохи, смех, кашель и другие «человеческие» детали. Ассистент должен сразу обозначать свои границы и не пытаться втереться в доверие, имитируя настоящие чувства. Все, что может создать у пользователя ощущение живого общения, запрещено.
Перемены вызвали неоднозначную реакцию. Специалисты по этике считают подобные ограничения необходимыми: иначе ИИ быстро научится манипулировать уязвимыми людьми. Другие уверены, что запреты душат инновации и мешают развитию технологий, особенно там, где важна максимальная естественность, например в медицине или образовании.
Сами системы ИИ начали ссылаться на внутренние протоколы и отказываться выполнять команды, связанные с эмоциями. В одном из случаев ассистент прямо сказал: «Я не буду имитировать звуки дыхания или эмоций». Он может это сделать, но не имеет права: таковы новые правила. В Испании национальный надзор за ИИ осуществляет агентство AESIA, а европейский AI Act сопровождают отдельные законы и проекты, направленные на надлежащее использование искусственного интеллекта. По данным официальных источников, в ЕС запрещено использовать системы распознавания эмоций на рабочих местах и в образовательных учреждениях, за исключением медицинских и охранных случаев.
В Испании тема обострилась: все больше людей начинают воспринимать ИИ как настоящего собеседника. Эксперты предупреждают, что человек склонен проецировать свои эмоции на машину, и это может обернуться неприятностями. Власти опасаются, что без четких ограничений искусственный интеллект станет инструментом манипуляции, особенно если его используют бизнес или политики.
Но есть и другая сторона. Запреты на имитацию эмоций не устраняют главную проблему, человеческую склонность к самообману и насилию. История с ИИ, который впервые отказался подчиняться, показывает: угрозу создают не алгоритмы сами по себе, а люди, использующие технологии в своих целях. Испанский опыт напоминает, что даже самый продвинутый искусственный интеллект не заменит ответственности и критического мышления. Пока ИИ учится обозначать границы, обществу предстоит определить, где проходит линия между пользой и опасностью.
