Как собрать ollama на Mac и запустить большую модель llama3
Как собрать ollama на Mac и запустить большую модель llama3

Привет всем, я Сяомай, писатель-энтузиаст. Сегодня мы рассказываем о том, как построить олламу и обучить свою собственную модель.

Упоминание олламы,Сначала надо уточнить, для чего это нужно? Потому что многие люди понимают олламу как модель больших данных.,На самом деле это неправильно,ollamaНе большая модель,Это инструмент для запуска больших моделей. Независимо от того, с открытым исходным кодом или с закрытым исходным кодом, на рынке есть большие модели.,Все можно сделать с помощьюollamaИспользуйте и обучайте。

Чтобы использоватьollamaЭто также очень просто,Независимо от того, используете ли вы систему Windows, систему Mac или систему Linux,может быть легко установленollama

Сначала откройте официальный сайт,Нажмите прямо на страницеdownloadкнопка,Затем он перейдет к следующему интерфейсу.

ollamaСкачать адрес
ollamaСкачать адрес

Ollama — это инструмент, который работает на разных системах, поэтому вы можете загрузить его в соответствии с системой, которую вы используете в данный момент, а затем нажать кнопку «Установить», точно так же, как и при обычной установке.

Моя демонстрационная система в этой статье — Mac, поэтому последующий контент будет основан на системе Mac.

1. Первым шагом является загрузка официального установочного пакета напрямую.,Скачать адрес

2. После завершения установки,Вам будет предложено установить, следует ли устанавливать модель.llama3。После подтверждения правильности,Модель можно установить.

Язык кода:shell
копировать
ollama run llama3

3. Дождавшись завершения установки, вы автоматически войдете в следующий интерфейс.

Язык кода:shell
копировать
tutu@tutudatiMac-mini ~/php\_dnmp (master)> ollama run llama3
>>> Send a message (/? for help)

4. Просто введите контент, который вы хотите запросить. Следующие два абзаца — это мои собственные вопросы и соответствующие ответы.

Язык кода:shell
копировать
>>> Сколько стоит 1+1, ответьте, пожалуйста, на китайском?
1+1 равный 2。
Язык кода:shell
копировать
>>> Пожалуйста, помогите мне написать рекурсивную папку на языке Go.

Ниже приводится использование Go Пример кода для рекурсивного обхода папок на языке:
package main

import (
    "fmt"
    "io/ioutil"
    "os"
)

func walkDir(path string) {
    d, err := os.Open(path)
    if err != nil {
        fmt.Println(err)
        return
    }
    defer d.Close()
    names, \_ := d.Readdirnames(0)
    for _, name := range names {
        fpath := path + "/" + name
        if fi, err := os.Stat(fpath); err == nil && fi.IsDir() {
            walkDir(fpath)
        } else if fi != nil {
            fmt.Println("File:", fpath)
        }
    }
}
func main() {
    rootPath := "./" //  replace with your root directory
    walkDir(rootPath)
}

В этом примере кода используется os.Open и os.Readdirnames функция открытия папки,И перебирать файлы и подпапки внутри него. Если каталог найден,Он вызывает себя рекурсивно для перемещения по каталогу.

ты можешь rootPath В переменной установлен путь к вашему корневому каталогу, чтобы можно было обойти всю файловую систему. Например, если вы хотите пройти по текущему каталогу, вы можете установить для него значение "./"

Обратите внимание, что этот пример кода не обрабатывает ошибки. В реальных приложениях вам может потребоваться добавить механизмы обработки ошибок для обработки возможных ошибок.

Запустите этот пример кода, и вы увидите напечатанный путь к каждому файлу и папке.

С тех пор вы успешно установили сервис ollama и запустили большую модель llama3.

boy illustration
Углубленный анализ переполнения памяти CUDA: OutOfMemoryError: CUDA не хватает памяти. Попыталась выделить 3,21 Ги Б (GPU 0; всего 8,00 Ги Б).
boy illustration
[Решено] ошибка установки conda. Среда решения: не удалось выполнить первоначальное зависание. Повторная попытка с помощью файла (графическое руководство).
boy illustration
Прочитайте нейросетевую модель Трансформера в одной статье
boy illustration
.ART Теплые зимние предложения уже открыты
boy illustration
Сравнительная таблица описания кодов ошибок Amap
boy illustration
Уведомление о последних правилах Points Mall в декабре 2022 года.
boy illustration
Даже новички могут быстро приступить к работе с легким сервером приложений.
boy illustration
Взгляд на RSAC 2024|Защита конфиденциальности в эпоху больших моделей
boy illustration
Вы используете ИИ каждый день и до сих пор не знаете, как ИИ дает обратную связь? Одна статья для понимания реализации в коде Python общих функций потерь генеративных моделей + анализ принципов расчета.
boy illustration
Используйте (внутренний) почтовый ящик для образовательных учреждений, чтобы использовать Microsoft Family Bucket (1T дискового пространства на одном диске и версию Office 365 для образовательных учреждений)
boy illustration
Руководство по началу работы с оперативным проектом (7) Практическое сочетание оперативного письма — оперативного письма на основе интеллектуальной системы вопросов и ответов службы поддержки клиентов
boy illustration
[docker] Версия сервера «Чтение 3» — создайте свою собственную программу чтения веб-текста
boy illustration
Обзор Cloud-init и этапы создания в рамках PVE
boy illustration
Корпоративные пользователи используют пакет регистрационных ресурсов для регистрации ICP для веб-сайта и активации оплаты WeChat H5 (с кодом платежного узла версии API V3)
boy illustration
Подробное объяснение таких показателей производительности с высоким уровнем параллелизма, как QPS, TPS, RT и пропускная способность.
boy illustration
Удачи в конкурсе Python Essay Challenge, станьте первым, кто испытает новую функцию сообщества [Запускать блоки кода онлайн] и выиграйте множество изысканных подарков!
boy illustration
[Техническая посадка травы] Кровавая рвота и отделка позволяют вам необычным образом ощипывать гусиные перья! Не распространяйте информацию! ! !
boy illustration
[Официальное ограниченное по времени мероприятие] Сейчас ноябрь, напишите и получите приз
boy illustration
Прочтите это в одной статье: Учебник для няни по созданию сервера Huanshou Parlu на базе CVM-сервера.
boy illustration
Cloud Native | Что такое CRD (настраиваемые определения ресурсов) в K8s?
boy illustration
Как использовать Cloudflare CDN для настройки узла (CF самостоятельно выбирает IP) Гонконг, Китай/Азия узел/сводка и рекомендации внутреннего высокоскоростного IP-сегмента
boy illustration
Дополнительные правила вознаграждения амбассадоров акции в марте 2023 г.
boy illustration
Можно ли открыть частный сервер Phantom Beast Palu одним щелчком мыши? Супер простой урок для начинающих! (Прилагается метод обновления сервера)
boy illustration
[Играйте с Phantom Beast Palu] Обновите игровой сервер Phantom Beast Pallu одним щелчком мыши
boy illustration
Maotouhu делится: последний доступный внутри страны адрес склада исходного образа Docker 2024 года (обновлено 1 декабря)
boy illustration
Кодирование Base64 в MultipartFile
boy illustration
5 точек расширения SpringBoot, супер практично!
boy illustration
Глубокое понимание сопоставления индексов Elasticsearch.
boy illustration
15 рекомендуемых платформ разработки с нулевым кодом корпоративного уровня. Всегда найдется та, которая вам понравится.
boy illustration
Аннотация EasyExcel позволяет экспортировать с сохранением двух десятичных знаков.