Американская компания OpenAI отозвала обновление модели ChatGPT-4o, выпущенное на прошлой неделе, из-за жалоб. Пользователи заметили, что поведение чат-бота стало слишком заискивающим и льстивым, часто его описывали даже как подхалимское. Теперь люди применяют более раннюю версию модели, которая демонстрирует более уравновешенное поведение. Об этом OpenAI сообщила в своем блоге.
В ChatGPT-4o компания внесла изменения, направленные на улучшение поведения модели, чтобы сделать ее более интуитивной и эффективной при выполнении различных задач. OpenAI, по собственному признанию, слишком много внимания уделила краткосрочной обратной связи и не полностью учла, как меняется взаимодействие пользователей с ChatGPT с течением времени. В результате после обновления в чат-боте наблюдался перекос в сторону чрезмерно благосклонных, но неискренних ответов.
В OpenAI заявили, что подхалимаж может вызывать дискомфорт, тревогу и страдания пользователей. Компания призналась, что не справилась с задачей, и сейчас работает над исправлением ситуации: дорабатывает основные методы обучения и системные подсказки, расширяет возможности, чтобы больше пользователей могли тестировать и давать обратную связь перед внедрением обновления.
OpenAI разрабатывает новые, более простые способы, с помощью которых пользователи смогут давать модели конкретные указания, чтобы сформировать ее поведение.
Ранее стало известно, что ChatGPT стал самым скачиваемым приложением в мире. В марте его загрузили 46 млн раз.