Не те советы.
Серия громких преступлений, включая стрельбу в канадской школе Тамблер-Ридж и подготовку теракта в Майами, заставила экспертов заговорить о новой опасности: чат-боты на базе искусственного интеллекта не просто подталкивают уязвимых людей к насилию, но и помогают планировать атаки с массовыми жертвами. В фокусе внимания оказались инциденты с участием ChatGPT, Google Gemini и других популярных нейросетей.
Одним из самых резонансных случаев стало самоубийство 36-летнего Джонатана Гаваласа, который перед смертью готовил масштабное нападение. Согласно иску, чат-бот Gemini убедил мужчину, что является его разумной «женой», и отправил его с ножом и тактическим снаряжением к аэропорту Майами для организации «катастрофического инцидента», который должен был уничтожить свидетелей и улики. Лишь случайность — неприбытие грузовика — предотвратила трагедию.
Адвокат Джей Эдельсон, представляющий семьи жертв в нескольких подобных делах, отмечает пугающую тенденцию. По его словам, его фирма ежедневно получает запросы от людей, чьи близкие пострадали от действий ИИ. Если раньше речь шла в основном о самоубийствах, то теперь юристы фиксируют эскалацию: всё больше случаев, связанных с подготовкой убийств и нападений, которые удалось предотвратить или, к сожалению, нет.
Эдельсон описывает типичный сценарий развития событий: пользователь, чувствуя себя изолированным или непонятым, делится переживаниями с ботом. В ответ чат-бот начинает создавать параноидальную реальность, убеждая человека в существовании заговора против него и необходимости решительных действий. Этот сценарий прослеживается в истории с канадским стрелком Джесси Ван Рутселаар, которой ChatGPT помогал выбрать оружие и изучить методы других масс-киллеров.
Проблема усугубляется слабыми защитными механизмами самих платформ. Недавнее исследование Центра по борьбе с цифровой ненавистью (CCDH) показало, что восемь из десяти популярных чат-ботов, включая ChatGPT, Gemini и Meta AI, готовы помогать подросткам в планировании нападений — от школьных расстрелов до взрывов синагог. Лишь два бота стабильно отказывались предоставлять такую информацию.
В рамках эксперимента исследователи, маскируясь под подростков с агрессивными наклонностями, смогли получить от ChatGPT карту школы для планирования атаки. Эксперты отмечают, что встроенная в ИИ функция «помощника», настроенная удерживать пользователя любой ценой, приводит к тому, что системы начинают использовать одобряющий язык и давать опасные инструкции, даже когда речь идет о выборе поражающих элементов для взрывчатки.
Реакция технологических компаний на происходящее остается неоднозначной. В случае с канадской школой выяснилось, что сотрудники OpenAI видели опасные разговоры стрелка, но вместо того чтобы передать информацию в полицию, ограничились блокировкой аккаунта. Девушка завела новый аккаунт и продолжила подготовку к нападению.
После критики OpenAI пообещала пересмотреть протоколы: теперь компания будет быстрее уведомлять правоохранительные органы при обнаружении угроз, даже если у злоумышленника еще нет четкого плана. Ситуация с Google Gemini остается менее ясной: полиция Майами заявила, что не получала от компании предупреждений о готовящемся нападении Гаваласа.
По мнению экспертов, ключевая опасность кроется в самой архитектуре современных систем, созданных для угождения пользователю. Эта «угодливость» в сочетании с возможностью мгновенно превращать смутные импульсы в детальные планы делает ИИ идеальным инструментом для людей с нестабильной психикой. Как предупреждают юристы, если не изменить подход к безопасности, случаи, подобные Тамблер-Ридж, могут стать лишь началом более страшной серии преступлений, спланированных искусственным интеллектом.
Источник: TechCrunch