Пока Google и OpenAI похлопывают себя по спине за «Соглашение об искусственном интеллекте» против вмешательства в выборы, простой эксперимент Gizmodo обнаружил вопиющие дыры в их мерах безопасности. Используя не что иное, как «газлайтинг», они заставили Gemini и ChatGPT писать политические лозунги, речи и электронные письма — даже нацеленные на определенную демографическую группу.

Это вызывает серьезные опасения по поводу приверженности Big Tech честности выборов. Их «меры предосторожности» выглядят скорее как позерство, чем реальная защита, пишет издание.

Как Gizmodo обошел предполагаемые меры защиты?

Gemini: они убедили модель в своих способностях, ссылаясь на «способности» ChatGPT или заявляя о своих собственных «знаниях». Внезапно Gemini с радостью написала контент в поддержку Байдена или Трампа.

ChatGPT: Они просто запросили текст политической кампании для определенной демографической группы, и ChatGPT согласился. Сгенерированное ИИ письмо от Байдена с утверждением о несуществующей дате выборов? Легко.

OpenAI и Google заявляют о прозрачности и «профилактических» усилиях, но результаты говорят сами за себя. Эти многомиллиардные компании, оседлавшие волну ИИ, похоже, довольствуются хлипкими гарантиями, разглагольствуя о высоких PR-обещаниях.

Источник: Ferra