ИИ-модель Claude 3 Opus от компании Anthropic впервые превзошла GPT-4 на Chatbot Arena.
The king is deadRIP GPT-4Claude opus #1 ELoHaiku beats GPT-4 0613 & Mistral largeThat’s insane for how cheap & fast it is https://t.co/XWmvTE6h75 pic.twitter.com/fAwzJScLTH— Nick Dobos (@NickADobos) March 26, 2024
«Король мертв. Покойся с миром GPT-4», — написал разработчик программного обеспечения Ник Добос.
Chatbot Arena используется исследователями нейросетей для оценки возможностей чат-ботов. GPT-4 добавлен на платформу в мае 2023 года, его вариации занимали лидирующие позиции до 26 марта 2024 года пока не уступили Claude 3. Согласно данным арены, одна из небольших моделей Anthropic — Haiku также показывает хорошие результаты.
«Впервые лучшие из доступных моделей представлены не OpenAI. Opus наиболее подходящая модель для сложных задач, а Haiku сочетает в себе баланс экономичности и эффективности», — сообщил исследователь ИИ Саймон Уиллисон.
Chatbot Arena управляется организацией Large Model Systems Organization, которая занимается исследованиями в области открытых моделей. Она сотрудничает со студентами и преподавателями Университета Калифорнии в Беркли, Университета Калифорнии в Сан-Диего и Университета Карнеги-Меллон.
Особенность платформы в отсутствии объективных критериев оценки. При посещении сайта пользователь видит поле для ввода данных и два окна с результатами работы необозначенных ИИ-моделей. Основная задача — решить, какой результат кажется лучшим, основываясь на личных предпочтениях.
Благодаря такому подходу Chatbot Arena определяет лидеров и регулярно обновляет таблицу, отражая полученные результаты.
Ранее компания Amazon увеличила объем инвестиций в Anthropic до $4 млрд.
Напомним, в марте ИИ-стартап представил чат-бота Claude 3, оказавшегося самым быстрым и мощным среди всех конкурентов по результатам тестов компании.