Как установить и запустить LLM локально на телефоне Android

Зарегистрируйтесь и зарабатывайте 1000$ в день ⋙

Локальное выполнение больших языковых моделей (LLM) на вашем телефоне Android означает, что вы можете получить доступ к этим моделям ИИ, не полагаясь на облачные серверы или подключение к Интернету . Эта локальная настройка обеспечивает конфиденциальность, сохраняя ваши данные в безопасности и на устройстве. Благодаря развитию мобильного оборудования локальный запуск моделей ИИ стал реальностью. Приложение MLC Chat позволяет легко опробовать эту мощную технологию прямо на вашем телефоне.

В этой статье объясняется важность локального запуска LLM на телефонах Android, а также приводятся пошаговые инструкции по их установке и запуску с помощью приложения MLC Chat.

Зачем запускать LLM на телефоне Android?

LLM обычно запускаются на облачных серверах, поскольку требуют значительной вычислительной мощности. Хотя телефоны Android имеют определенные ограничения при работе с LLM, они также открывают некоторые интересные возможности.

  • Улучшенная конфиденциальность : поскольку все вычисления происходят на вашем телефоне, ваши данные остаются локальными, что важно для любой конфиденциальной информации, которой вы делитесь.
  • Автономный доступ : для доступа к этим моделям или взаимодействия с ними не требуется постоянного подключения к Интернету. Это особенно полезно для пользователей в отдаленных районах или там, где ограничено подключение к Интернету.
  • Экономическая эффективность : запуск LLM на облачных серверах влечет за собой эксплуатационные расходы, такие как облачное хранилище и вычислительная мощность. Этот метод обеспечивает экономически эффективное решение для пользователей.

Пошаговое руководство по установке и запуску MLC Chat на Android

Приложение MLC Chat разработано для того, чтобы пользователи могли запускать и взаимодействовать с большими языковыми моделями (LLM) локально на различных устройствах, включая мобильные телефоны, не прибегая к облачным сервисам. Чтобы запустить LLM локально на вашем Android-устройстве, выполните следующие действия.

Шаг 1: Установите приложение MLC Chat

Сначала вам необходимо загрузить APK для приложения MLC Chat (112 МБ) по ссылке ниже.

APK-файл приложения MLC Chat

Как установить и запустить LLM локально на телефоне Android
Установить приложение MLC Chat

После загрузки APK нажмите на файл, чтобы начать установку.

Шаг 2: Загрузите LLM

После успешной установки приложения откройте его, и вы увидите список степеней LLM, доступных для загрузки. Доступны модели различных размеров и возможностей, такие как LLama-3.2, Phi-3.5 и Mistral. Выберите модель в соответствии с вашими потребностями и нажмите на значок загрузки рядом с ней, чтобы начать загрузку. Например, если вы используете телефон среднего класса, такой как Redmi Note 10, выберите облегченную модель, например Qwen-2.5, для более плавной работы.

Как установить и запустить LLM локально на телефоне Android
Скачать LLM

Шаг 3: Запустите установленный LLM

После загрузки модели рядом с ней появится значок чата. Нажмите на значок, чтобы начать моделирование.

Как установить и запустить LLM локально на телефоне Android
Запустите установленный LLM

Как только модель будет готова, вы можете начать вводить подсказки и взаимодействовать с местным LLM.

Как установить и запустить LLM локально на телефоне Android

Например, на таком устройстве, как Redmi Note 10, запуск меньшей модели, такой как Qwen2.5, обеспечивает довольно плавную работу, генерируя около 1,4 токенов в секунду. Хотя эта производительность ниже, чем у высококлассных устройств, таких как Galaxy S23 Ultra , она по-прежнему отлично подходит для базовых задач, таких как короткие чаты и создание простого контента.

Локальный запуск LLM на устройствах Android через приложение MLC Chat обеспечивает доступный и защищенный от несанкционированного доступа способ взаимодействия с моделями ИИ. Производительность во многом зависит от аппаратного обеспечения телефона. Это решение идеально подходит для пользователей, которым необходим автономный доступ к моделям ИИ, тестирование LLM в режиме реального времени или которые обеспокоены конфиденциальностью. По мере совершенствования мобильного оборудования возможности локального LLM будут только расширяться, что делает его перспективным рубежом для технологий искусственного интеллекта.

Sign up and earn $1000 a day ⋙

Leave a Comment

Как быстро открыть камеру на телефонах Android

Как быстро открыть камеру на телефонах Android

Фотография — отличный способ запечатлеть памятные моменты нашей жизни.

Как исправить ошибку «Микрофон не работает» на телефоне Android

Как исправить ошибку «Микрофон не работает» на телефоне Android

Хотя проблемы с микрофоном довольно распространены на устройствах Android, для их устранения можно выполнить следующие действия.

8 функций Android, о которых вы хотели бы узнать раньше

8 функций Android, о которых вы хотели бы узнать раньше

Даже после десятилетия использования Android в нем все еще есть скрытые функции, которые заставляют задуматься: почему я не знал об этом раньше? .

4 лучших приложения для очистки Android

4 лучших приложения для очистки Android

Компания Quantrimang составила список лучших приложений для очистки ненужных файлов на Android, с ним можно ознакомиться ниже.

Топ Android-игр 25.04.2025

Топ Android-игр 25.04.2025

У вас есть Android-устройства, которые вы используете Android, 25 апреля 2025 г.? Quantrimang.com является приложением для Android, где нет ничего особенного, я хочу, чтобы вы забыли, что такое чи-фи-тронг. но это гиа лео тханг, гиа хэнг тхонг луи тан нхо най нхе.

Альтернативное приложение Remote Desktop теперь доступно на Android

Альтернативное приложение Remote Desktop теперь доступно на Android

Microsoft продолжает продвигать планы по замене приложения «Удаленный рабочий стол» на разных платформах новым приложением Windows, на этот раз для операционной системы Android.

Как исправить размытые фотографии на Android

Как исправить размытые фотографии на Android

Давайте узнаем, как (частично) исправить размытые фотографии на телефонах Android.

6 лучших файловых менеджеров для Android TV

6 лучших файловых менеджеров для Android TV

Каждому пользователю Android TV необходимо установить файловый менеджер по ряду причин.

Как проверить, какие приложения используют больше всего оперативной памяти на Android

Как проверить, какие приложения используют больше всего оперативной памяти на Android

Если приложение «потребляет» слишком много оперативной памяти устройства, это существенно снижает многозадачность системы, а также вызывает задержки, что серьезно влияет на работу устройства.

Как создать свой собственный талисман Android

Как создать свой собственный талисман Android

Теперь вы можете создать свою собственную версию талисмана Android под названием The Bot. Выбирая материалы, одежду, аксессуары и реквизит, вы можете персонализировать Бота по своему вкусу.

Как использовать FaceTime на Android?

Как использовать FaceTime на Android?

Наконец, Apple разрешила пользователям Android-устройств использовать FaceTime.

Получайте удовольствие с этими 6 приложениями для изменения голоса на Android

Получайте удовольствие с этими 6 приложениями для изменения голоса на Android

Хотелось ли вам когда-нибудь разыграть своих друзей смешным голосом? Благодаря некоторым приложениям для смартфонов вам больше не нужно громоздкое компьютерное программное обеспечение для этого.

Как защититься от приложений SpyLoan для Android, которые используют ваши данные для шантажа

Как защититься от приложений SpyLoan для Android, которые используют ваши данные для шантажа

Типичным случаем является приложение SpyLoan, которое обманывает пользователей обещаниями кредитов с низкими процентами, но вместо этого собирает персональные данные и шантажирует жертв этими данными.

Как исправить неработающий Android Auto

Как исправить неработающий Android Auto

В статье ниже Quantrimang познакомит вас с некоторыми советами по устранению неполадок Android Auto, будь то на телефоне или на экране автомобиля.

Инструкции по созданию прокручиваемого снимка экрана устройства Android для захвата всей веб-страницы

Инструкции по созданию прокручиваемого снимка экрана устройства Android для захвата всей веб-страницы

Вместо того чтобы «бомбардировать» сообщения своих друзей десятками снимков экрана, вы можете сделать прокручиваемый снимок экрана и отправить его.

Как быстро открыть камеру на телефонах Android

Как быстро открыть камеру на телефонах Android

Фотография — отличный способ запечатлеть памятные моменты нашей жизни.

Как исправить задержку клавиатуры на iPhone

Как исправить задержку клавиатуры на iPhone

На некоторых устройствах после обновления до iOS 18 наблюдается задержка клавиатуры, что влияет на ввод контента на iPhone.

Android 12: выпущена бета-версия 5 с рядом новых функций

Android 12: выпущена бета-версия 5 с рядом новых функций

Android 12 приносит самые масштабные изменения дизайна в истории Android. Google полностью переосмыслил весь процесс — от цветов до форм, освещения и движения. Результатом стал Android 12, который стал более интуитивным, динамичным и персонализированным, чем когда-либо.

Наблюдается ли снижение производительности графического процессора iPhone 16e?

Наблюдается ли снижение производительности графического процессора iPhone 16e?

iPhone 16e — новейшая модель iPhone, недавно анонсированная Apple, которая сразу же привлекла большое внимание пользователей, поскольку ее цена довольно доступна — всего 599 долларов США.

Как открыть ярлык Siri на экране блокировки iPhone

Как открыть ярлык Siri на экране блокировки iPhone

Существуют сочетания клавиш Siri, которые пользователи хотят использовать прямо с экрана блокировки, вместо того чтобы открывать их вручную. Ниже приведены инструкции по добавлению быстрых команд Siri на экран блокировки iPhone.

Как поделиться статусом фокуса на iPhone

Как поделиться статусом фокуса на iPhone

Состояние фокусировки на iPhone будет передаваться авторизованным приложениям в состояние фокусировки, которое вы включили на своем устройстве.

Как исправить ошибку «Микрофон не работает» на телефоне Android

Как исправить ошибку «Микрофон не работает» на телефоне Android

Хотя проблемы с микрофоном довольно распространены на устройствах Android, для их устранения можно выполнить следующие действия.

Инструкции по написанию заметок на главном экране iPhone

Инструкции по написанию заметок на главном экране iPhone

Для отслеживания заметок прямо на главном экране iPhone пользователи могут использовать приложение Sticky Widgets.

11 лучших приложений-компасов для телефонов

11 лучших приложений-компасов для телефонов

Вместо того чтобы покупать традиционный компас и помнить о том, что его нужно носить с собой каждый раз, когда вы хотите им воспользоваться, вы можете загрузить приложение-компас на свой телефон.

8 функций Android, о которых вы хотели бы узнать раньше

8 функций Android, о которых вы хотели бы узнать раньше

Даже после десятилетия использования Android в нем все еще есть скрытые функции, которые заставляют задуматься: почему я не знал об этом раньше? .

Как просмотреть текущую активность на экране блокировки iPhone

Как просмотреть текущую активность на экране блокировки iPhone

Функция Live Activity на iPhone позволяет отслеживать текущие действия или предстоящие события прямо с экрана блокировки iPhone.

Google удаляет Gemini Access из приложения Google для iPhone

Google удаляет Gemini Access из приложения Google для iPhone

Приложение Google для iPhone вскоре станет немного менее полезным, поскольку Google недавно удалила из этого приложения доступ к Gemini AI.

Как изменить браузер и электронную почту по умолчанию на iPhone

Как изменить браузер и электронную почту по умолчанию на iPhone

Чтобы установить предпочитаемое вами веб-браузерное приложение в качестве приложения по умолчанию в iOS 14, выполните следующие действия. Перейдите в «Настройки» > прокрутите вниз и нажмите на любой браузер, установленный на вашем iPhone, например, здесь я выбрал Chrome.

7 настроек камеры iPhone для лучшего качества видео

7 настроек камеры iPhone для лучшего качества видео

Хотя ваш iPhone может снимать отличные видео прямо из коробки, вы можете добиться лучших результатов, изменив некоторые настройки камеры.

4 лучших приложения для очистки Android

4 лучших приложения для очистки Android

Компания Quantrimang составила список лучших приложений для очистки ненужных файлов на Android, с ним можно ознакомиться ниже.