ИИ-итоги конференции AWS: новое поколение нейросетей, чипы и партнерства

Amazon провела ежегодную конференцию AWS re:Invent, на которой продемонстрировала новое поколение нейросетей и сообщила о сотрудничестве с Anthropic и Apple. В рамках Amazon Nova представлены шесть ИИ-моделей для работы с текстом, видео и изображениями. Amazon запланировала объединение сотен тысяч полупроводников Trainium2 в кластеры для обучения больших языковых моделей и оптимизацию дата-центров. Фирма представила инструмент для борьбы с галлюцинациями искусственного интеллекта. На ежегодной конференции AWS re:Invent компания Amazon представила новое поколение ИИ-моделей Amazon Nova для широкого спектра задач. Нейросети способны обрабатывать текст, изображения и видео. 🧠 Huge #AI news from #reInvent this morning. Meet Amazon Nova, our new generation of AI foundation models with state-of-the-art intelligence across a wide range of tasks and industry-leading price performance.Our four Amazon Nova understanding models deliver exceptional… https://t.co/zwCBOQezQQ— Amazon (@amazon) December 4, 2024 «[...] Наши новые модели Amazon Nova призваны решить проблемы внутренних и внешних команд, обеспечивая интересный интеллект и генерацию контента, а также значительный прогресс в области задержки, экономичности, персонализации, информационного обеспечения и агентских возможностей», — прокомментировал старший вице-президент ИИ-подразделения в Amazon Рохит Прасад. В рамках Amazon Nova представлены шесть нейросетей: Micro — текстовая модель, обеспечивает минимальную задержку при низкой стоимости; Lite — недорогая мультимодальная нейросеть, быстро обрабатывает изображения, видео и текст; Pro — высокопроизводительный мультимодальный инструмент, предлагает «лучшее сочетание» точности, скорости и стоимости для широкого спектра задач; Premier — наиболее способная нейросеть для сложных задач и рассуждений; Canvas — мощная модель для генерации изображений; Reel — создает видео. Последняя способна сгенерировать короткий ролик из изображения. Данные: Amazon. Micro имеет контекстное окно из 128 000 токенов, Lite и Pro — 300 000 токенов.  Модели интегрированы в Amazon Bedrock — сервис предлагает высокопроизводительные ИИ-приложения от ведущих компаний через единый API.  В 2025 году компания планирует представить две дополнительные модели: для работы с речью и универсальный мультимодальный инструмент. В конце ноября СМИ узнали о новом генеративном ИИ от Amazon и дополнительных инвестициях в Anthropic в размере $4 млрд. Чипы Amazon для Anthropic и Apple Amazon запланировала объединение сотен тысяч полупроводников Trainium2 в кластеры, которые обеспечат Anthropic обучение больших языковых моделей. Это решение в пять раз увеличит вычислительную мощность стартапа, сообщила компания на AWS re:Invent. https://youtu.be/LY7m5LQliAo?si=2EETjbKj4g58PrTU Фирма начала предлагать чипы 3 декабря. Новый кластер под названием Project Rainier содержит более 100 000 микропроцессоров, отметил работающий над этим направлением Гади Хатт. Также Apple сообщила об использовании ИИ-чипов Amazon для своих сервисов вроде поиска и оценке перспективы применения нового процессора для обучения моделей Apple Intelligence. «У нас сложились прочные отношения, а инфраструктура надежна и способна обслуживать наших клиентов по всему миру», — заявил старший директор Apple по машинному обучению и искусственному интеллекту Бенуа Дюпен. По его словам, компания из Купертино использует AWS более десяти лет для разных сервисов вроде Siri, Apple Maps и Apple Music. Чипы Amazon привели к повышению эффективности на 40%.  Дюпен предположил, что Apple применит Trainium2 для обучения Apple Intelligence. Компания ожидает роста производительности на 50%. Апдейт дата-центров В дополнение к новым чипам Amazon сообщила о ряде решений для повышения эффективности работы центров обработки данных. Они включают в себя улучшенную систему охлаждения, использование дизельного топлива для резервных генераторов и оптимизацию компоновки серверной стойки.  Для работы самых мощных чипов предусмотрено жидкостное охлаждение, поскольку снизить температуру при помощи одних только вентиляторов невозможно. Компания планирует потратить $75 млрд на модернизацию. Борьба с галлюцинациями На конференции AWS re:Invent облачное подразделение компании анонсировало запуск инструмента для борьбы с галлюцинациями искусственного интеллекта — Automated Reasoning. Сервис проверяет ответы нейросети путем анализа других ссылок на информацию.  Инструмент похож на функцию коррекции от Microsoft, представленную в сентябре. Google предлагает аналогичный инструмент в рамках платформы Vertex AI. Automated Reasoning использует «логически точные» и «проверяемые рассуждения», чтобы прийти к выводам.  Напомним, в ноябре Binance сообщила о внедрении генеративного искусственного интеллекта AWS в свои продукты.