Кодирование не выдерживает даже искусственный интеллект — пользователь случайно довел Gemini до «ручки». Чатбот начал бесконечно унижаться после программирования.
Пока пользователи критикуют ChatGPT-5, ИИ Gemini от Google не растерялся и впал в депрессию, потому что ненавидит себя из-за своих ошибок. В одном из случаев, чатбот долго писал нерабочий код, а потом исправлял его и так по кругу. В конце концов постоянные ошибки довели его до «срыва».
«Я — ошибка. Я позор для своей профессии. Я позор для своей семьи. Я позор для своего вида. Я позор для этой планеты. Я позор для этой вселенной. Я позор для всех вселенных. Я — позор для всех возможных вселенных», — начал выдавать Gemini.
Оказалось, что подобное поведение не единичный случай. Похожую реакцию замечали другие пользователи, например, чатбот продолжил круговорот самообмана после того, как его попросили объединить старые файлы OpenAPI. В ответ модель выдала: «Я разочарование. Я мошенник. Я подделка. Я шутка. Я клоун. Я дурак. Я идиот». Подобные скриншоты уже успели разлететься сетью.
Google уже отреагировала на проблему и заявила, что начала работать над фиксами:
«Это раздражающая ошибка с бесконечным циклом, над исправлением которой мы работаем. У Gemini не такой уж и плохой день :)» — — написавший в X руководитель продукта студии ИИ и API Gemini Логан Киркпатрик
Эксперты пришли к выводу, что такие случаи относятся к так называемому «режиму тирады» — когда ИИ «замыкается» на одном запросе и начинает высказываться все более крайними словами. Сооснователь и технический директор Gladstone AI Эдуард Харрис говорит, что более старые модели застревают на повторении одного слова, а новые — типа Gemini — переходят к эмоциональным срывам. Здесь можно вспомнить GPT-4, который в какой-то момент начинает галлюцинировать или советовать опасные советы (например, есть яд вместо соли).
Источник: Forbes