Foxconn анонсирует крупную языковую модель (LLM), усовершенствованную на основе Llama 3.1 от Meta

Зарегистрируйтесь и зарабатывайте 1000$ в день ⋙

Компания Foxconn, наиболее известная производством iPhone и других аппаратных продуктов Apple, только что удивила всех, анонсировав свою первую большую языковую модель (LLM) под названием FoxBrain, которая предназначена для улучшения управления производством и цепочками поставок.

Тайваньский производитель утверждает, что FoxBrain обучался всего на 120 графических процессорах Nvidia H100. Данная программа LLM в основном разработана на основе архитектуры Llama 3.1 компании Meta с 70 миллиардами параметров, полученных путем дистилляции. Концепция уточнения LLM предполагает использование «родительской» модели и обучение «дочерней» модели на основе ее ответов. Foxconn также признала, что их LLM не так хорош, как усовершенствованная модель DeepSeek (Китай), но общая производительность очень близка к мировым стандартам.

Говоря об этом достижении, доктор Юнг-Хуэй Ли, директор Центра исследований искусственного интеллекта в Научно-исследовательском институте Hon Hai (Foxconn), сказал:

В последние месяцы расширение возможностей рассуждений и эффективное использование графических процессоров постепенно становится основной тенденцией в области ИИ. В нашей модели FoxBrain реализована очень эффективная стратегия обучения, ориентированная на оптимизацию процесса обучения, а не на слепое накопление вычислительной мощности.

Благодаря тщательно разработанным методам обучения и оптимизации ресурсов нам удалось создать локальную модель ИИ с мощными возможностями рассуждения».

Foxconn анонсирует крупную языковую модель (LLM), усовершенствованную на основе Llama 3.1 от Meta

Foxconn не только собирает продукцию Apple, но и производит серверы искусственного интеллекта Nvidia. Вместе со 120 графическими процессорами H100 FoxBrain масштабируется с помощью сети Quantum-2 InfiniBand от Nvidia, а обучение занимает всего около 4 недель (при общей вычислительной стоимости 2688 дней GPU). Foxconn сгенерировала 98 миллиардов высококачественных токенов данных предварительного обучения на традиционном китайском языке с длиной контекстного окна до 128 000 токенов.

Партнерство Foxconn и Nvidia не ново, и обе компании также работают над другими проектами, включая строительство крупнейшего в мире завода по производству графических процессоров Blackwell.

Nvidia также предоставила Foxconn суперкомпьютер Taipei-1 для завершения процесса предварительного обучения модели. Foxconn заявила, что FoxBrain станет «ключевым двигателем» для модернизации трех основных платформ компании: интеллектуальное производство, интеллектуальные электромобили и интеллектуальные города.

Sign up and earn $1000 a day ⋙

Leave a Comment

Разница между обычным телевизором и Smart TV

Разница между обычным телевизором и Smart TV

Умные телевизоры действительно покорили мир. Благодаря множеству замечательных функций и возможности подключения к Интернету технологии изменили то, как мы смотрим телевизор.

Почему в морозильной камере нет подсветки, а в холодильнике есть?

Почему в морозильной камере нет подсветки, а в холодильнике есть?

Холодильники — привычные бытовые приборы. Холодильники обычно имеют 2 отделения: холодильное отделение просторное и имеет подсветку, которая автоматически включается каждый раз, когда пользователь ее открывает, а морозильное отделение узкое и не имеет подсветки.

2 способа устранения перегрузки сети, которая замедляет Wi-Fi

2 способа устранения перегрузки сети, которая замедляет Wi-Fi

На сети Wi-Fi влияют многие факторы, помимо маршрутизаторов, пропускной способности и помех, но есть несколько разумных способов улучшить работу вашей сети.

Как перейти с iOS 17 на iOS 16 без потери данных с помощью Tenorshare Reiboot

Как перейти с iOS 17 на iOS 16 без потери данных с помощью Tenorshare Reiboot

Если вы хотите вернуться к стабильной версии iOS 16 на своем телефоне, вот базовое руководство по удалению iOS 17 и понижению версии с iOS 17 до 16.

Что происходит с организмом, если вы едите йогурт каждый день?

Что происходит с организмом, если вы едите йогурт каждый день?

Йогурт — замечательная еда. Полезно ли есть йогурт каждый день? Как изменится ваше тело, если вы будете есть йогурт каждый день? Давайте узнаем вместе!

Какой вид риса лучше всего подходит для здоровья?

Какой вид риса лучше всего подходит для здоровья?

В этой статье рассматриваются наиболее питательные виды риса и способы максимально увеличить пользу для здоровья любого выбранного вами вида риса.

Как просыпаться вовремя утром

Как просыпаться вовремя утром

Установление режима сна и отхода ко сну, смена будильника и корректировка рациона питания — вот некоторые из мер, которые помогут вам лучше спать и вовремя просыпаться по утрам.

Советы по игре Rent Please! Симулятор арендодателя для новичков

Советы по игре Rent Please! Симулятор арендодателя для новичков

Арендуйте, пожалуйста! Landlord Sim — мобильная игра-симулятор для iOS и Android. Вы будете играть за владельца жилого комплекса и начнете сдавать квартиры в аренду, чтобы улучшить интерьер своих апартаментов и подготовить их к приему арендаторов.

Последние коды защиты башни в ванной и как вводить коды

Последние коды защиты башни в ванной и как вводить коды

Получите игровой код Bathroom Tower Defense Roblox и обменяйте его на потрясающие награды. Они помогут вам улучшить или разблокировать башни с более высоким уроном.

Конструкция, обозначения и принципы работы трансформаторов

Конструкция, обозначения и принципы работы трансформаторов

Давайте максимально подробно изучим конструкцию, обозначения и принципы работы трансформаторов.

4 способа, которыми ИИ делает умные телевизоры лучше

4 способа, которыми ИИ делает умные телевизоры лучше

От лучшего качества изображения и звука до голосового управления и многого другого — эти функции на базе искусственного интеллекта делают смарт-телевизоры намного лучше!

Почему ChatGPT лучше DeepSeek

Почему ChatGPT лучше DeepSeek

Поначалу люди возлагали большие надежды на DeepSeek. Как ИИ-чат-бот, позиционируемый как серьезный конкурент ChatGPT, он обещает интеллектуальные возможности и возможности чата.

Встречайте Fireflies.ai: бесплатный секретарь на базе искусственного интеллекта, который сэкономит вам часы работы

Встречайте Fireflies.ai: бесплатный секретарь на базе искусственного интеллекта, который сэкономит вам часы работы

Легко упустить важные детали, записывая другие важные вещи, а попытки делать заметки во время общения могут отвлекать. Решение — Fireflies.ai.

Как вырастить Аксолотля Майнкрафт, приручить Саламандру Майнкрафт

Как вырастить Аксолотля Майнкрафт, приручить Саламандру Майнкрафт

Аксолот в Minecraft станет отличным помощником для игроков при действиях под водой, если они знают, как им пользоваться.

A Quiet Place: The Road Ahead Конфигурация игры для ПК

A Quiet Place: The Road Ahead Конфигурация игры для ПК

Конфигурация A Quiet Place: The Road Ahead имеет довольно высокий рейтинг, поэтому вам нужно будет рассмотреть ее перед принятием решения о загрузке.