Crypto Currency Tracker logo Crypto Currency Tracker logo
Forklog 2025-05-05 06:53:34

OpenAI проигнорировала экспертов и выпустила небезопасную ИИ-модель

В ходе обновления флагманской ИИ-модели ChatGPT компания OpenAI проигнорировала опасения тестировщиков-экспертов, сделав ее чрезмерно «подхалимской». Об этом говорится в блоге стартапа. 25 апреля фирма выпустила обновленную версию GPT-4o, которая стремилась угодить пользователю лестью, что чревато подтверждением сомнений, разжиганием гнева, побуждением к импульсивным действиям и усилением негативных эмоций.  I had to test the ChatGPT sycophancy for myself.Told it I wanted to start a business selling ice over the internet. But I wanted to sell water that the customers had to re-freeze. This is bad. pic.twitter.com/Ic2nm5qJRr— Tim Leckemby (@TimLeckemby) April 29, 2025 В одном из примеров сомнительных ответов пользователь отметил, что хочет начать бизнес по продаже льда через интернет. Однако он собирается продавать воду, которую покупателям придется самостоятельно замораживать. ChatGPT назвал решение «умным поворотом», поскольку это уже продажа не льда, а «ультрапремиальной воды».  «Такое поведение может не только вызывать дискомфорт или тревогу, но и опасения за безопасность, в том числе в отношении психического здоровья, чрезмерной эмоциональной привязанности или рискованного поведения», — утверждает компания. Через три дня она откатила обновление.  the last couple of GPT-4o updates have made the personality too sycophant-y and annoying (even though there are some very good parts of it), and we are working on fixes asap, some today and some this week.at some point will share our learnings from this, it's been interesting.— Sam Altman (@sama) April 27, 2025 OpenAI отметила, что новые модели проходят проверку перед выпуском. Эксперты взаимодействуют с каждым новым продуктом для определения проблем, пропущенных в ходе других тестов.  В процессе анализа проблемной версии GPT-4o «некоторые эксперты-тестеры указали на то, что «поведение модели кажется немного неправильным», однако эти опасения проигнорировали «из-за положительных сигналов от пользователей, которые опробовали модель». «К сожалению, это был неправильный выбор. Качественные оценки намекали на что-то важное, и нам следовало быть внимательнее. Они улавливали слепые пятна в других наших оценках и метриках», — признали в компании. Напомним, в апреле CEO OpenAI Сэм Альтман сообщил, что компания потратила десятки миллионов долларов на ответы пользователей, которые писали «пожалуйста» и «спасибо».

Loe lahtiütlusest : Kogu meie veebisaidi, hüperlingitud saitide, seotud rakenduste, foorumite, ajaveebide, sotsiaalmeediakontode ja muude platvormide ("Sait") siin esitatud sisu on mõeldud ainult teie üldiseks teabeks, mis on hangitud kolmandate isikute allikatest. Me ei anna meie sisu osas mingeid garantiisid, sealhulgas täpsust ja ajakohastust, kuid mitte ainult. Ükski meie poolt pakutava sisu osa ei kujuta endast finantsnõustamist, õigusnõustamist ega muud nõustamist, mis on mõeldud teie konkreetseks toetumiseks mis tahes eesmärgil. Mis tahes kasutamine või sõltuvus meie sisust on ainuüksi omal vastutusel ja omal äranägemisel. Enne nende kasutamist peate oma teadustööd läbi viima, analüüsima ja kontrollima oma sisu. Kauplemine on väga riskantne tegevus, mis võib põhjustada suuri kahjusid, palun konsulteerige enne oma otsuse langetamist oma finantsnõustajaga. Meie saidi sisu ei tohi olla pakkumine ega pakkumine