Не так давно Мета Официально выпущена последняя версия большой модели с открытым исходным кодом Llama3 , является самой мощной на сегодняшний день крупной моделью с открытым исходным кодом.

Llama3 Предусмотрены две версии 8B и 70B , если ты не понимаешь B что это значит,Ссылка здесь：# Некоторые базовые сведения о больших моделях

Среди них 8Б Версия, подходящая для потребительского уровня GPU Высокоэффективная разработка развертывания 70B; версия, предназначенная для крупномасштабного AI Дизайн приложения. Каждая версия включает в себя две формы: базовую и инструкцию по настройке.

Генеральный директор Meta Цукерберг объявил: Основанный на последней модели Llama 3, AI-помощник Meta теперь поддерживает все приложения, такие как Instagram, WhatsApp и Facebook.

Другими словами, Llama3 запущена в производственную среду и доступна.

Адрес с открытым исходным кодом Llama3 выглядит следующим образом:

https://github.com/meta-llama/llama3

Возможно, вам удастся запустить Llama3, следуя инструкциям по установке в документации с открытым исходным кодом, но обычным людям это не подходит. Есть более простой способ.

Я должен представить это здесь Ollama , то есть маленькая альпака внизу.

Ollama основан на Go развитие языкаиз Простой и удобный в использованииизЛокальная платформа запуска модели большого языка。

Может быть очень удобно развертывать различные модели локально и использовать их через интерфейс, который чем-то похож на Docker, загружающий различные контейнеры образов. И по мере постепенного улучшения экосистемы Олламы будет поддерживаться больше моделей, и в будущем будет удобнее запускать различные большие модели на собственном компьютере.

На самом деле, до Ollama были некоторые решения для локального развертывания больших моделей, но результаты запуска зачастую были неудовлетворительными, например LocalAI и т. д. Кроме того, требовалась Windows + GPU, в отличие от Ollama, которую можно запускать непосредственно на Mac. , например «Мой компьютер — Mac Studio».

Официальный адрес Олламы: https://ollama.com/

Нажмите «Загрузить» и выберите соответствующую платформу для загрузки. Вы также можете загрузить ее по адресу Ollama на Github:

https://github.com/ollama/ollama

Вы можете увидеть модели, которые в настоящее время поддерживаются Ollama, на домашней странице Github.

Первый — использовать Llama3. Просто запустите его с помощью следующей команды:

ollama run llama3:8b

Эффект такой, как показано на рисунке:

На этом этапе вы можете счастливо общаться на интимной основе.