Forklog
2025-04-10 13:56:58

Стартап из Индии придумал систему для запуска ИИ-моделей на CPU

Индийский стартап Ziroh Labs разработал систему, которая позволяет запускать передовые ИИ-модели без необходимости использовать мощные чипы. Об этом пишет Bloomberg.  Платформа Kompact AI разработана совместно с Индийским технологическим институтом в Мадрасе. Она дает возможность нейросетям эффективно работать на центральных процессорах (CPU), используемых в обычных вычислительных устройствах.  Стартап ориентируется на процесс вывода, то есть работу ИИ-модели после ее обучения. Он оптимизирует ведущие нейросети для применения на ПК. В качестве примера продемонстрирована работа Llama 2 от Meta и Qwen2.5 от Alibaba на ноутбуке с процессором Intel Xeon. Ziroh Labs утверждает, что его подход демонстрирует высококачественный результат, а технологию протестировали американские чипмейкеры Intel и Advanced Micro Devices.  «В ближайшие годы это окажет очень сильное влияние на рынок», — считает технический советник стартапа Уильям Радучел. Директор Индийского технологического института в Мадрасе Ви Камакоти подчеркнул наличие проблемы с доступом к мощным графическим процессорам (GPU) у различных стран вроде Индии.  «Разрыв в области ИИ связан с тем, что только те, у кого есть дорогостоящие ресурсы с GPU, могут получить доступ, разработать и внедрить мощный искусственный интеллект. Мы демонстрируем, что вам не нужен револьвер, чтобы убить комара», — отметил он.  Напомним, в январе китайский стартап DeepSeek выпустил эффективную ИИ-модель R1, чем вызвал вопросы касательно необходимости тратить миллиардные инвестиции на графические чипы.  Тем временем Nvidia анонсировала новые процессоры для создания и запуска ИИ-моделей — Blackwell Ultra и Vera Rubin. Также представлен движок для моделирования движения роботов и ряд других продуктов.  

Crypto Haber Bülteni Al
Feragatnameyi okuyun : Burada sunulan tüm içerikler web sitemiz, köprülü siteler, ilgili uygulamalar, forumlar, bloglar, sosyal medya hesapları ve diğer platformlar (“Site”), sadece üçüncü taraf kaynaklardan temin edilen genel bilgileriniz içindir. İçeriğimizle ilgili olarak, doğruluk ve güncellenmişlik dahil ancak bunlarla sınırlı olmamak üzere, hiçbir şekilde hiçbir garanti vermemekteyiz. Sağladığımız içeriğin hiçbir kısmı, herhangi bir amaç için özel bir güvene yönelik mali tavsiye, hukuki danışmanlık veya başka herhangi bir tavsiye formunu oluşturmaz. İçeriğimize herhangi bir kullanım veya güven, yalnızca kendi risk ve takdir yetkinizdedir. İçeriğinizi incelemeden önce kendi araştırmanızı yürütmeli, incelemeli, analiz etmeli ve doğrulamalısınız. Ticaret büyük kayıplara yol açabilecek yüksek riskli bir faaliyettir, bu nedenle herhangi bir karar vermeden önce mali danışmanınıza danışın. Sitemizde hiçbir içerik bir teklif veya teklif anlamına gelmez