Как использовать развертывание Docker и удаленный доступ к платформе разработки приложений Dify с открытым исходным кодом модели большого языка (LLM)
Как использовать развертывание Docker и удаленный доступ к платформе разработки приложений Dify с открытым исходным кодом модели большого языка (LLM)
В этой статье в основном рассказывается, как быстро развернуть Dify с помощью Docker в системе Linux Ubuntu и объединить его с инструментом проникновения в интрасеть cpolar для достижения удаленного доступа к локальному Dify через общедоступную сеть!

Dify Это модель большого языка с открытым исходным кодом (LLM). Платформа разработки приложений. Он включает в себя Backend как услугу (Backend as Сервис) и LLMOps Эта концепция позволяет разработчикам быстро создавать генеративные системы производственного уровня. AI приложение. Даже если вы нетехнический человек, вы можете принять участие AI Определение приложения и процесс работы с данными.

Dify имеет открытый исходный код и поддерживает самостоятельное развертывание на локальных серверах для создания собственных приложений системы искусственного интеллекта. либо вам нужно иметь облачный сервер, либо публичный IP-адрес, иначе вы не сможете иметь удаленный доступ. Однако, если у нас нет ни облачного сервера, ни публичного IP-адреса, и мы также хотим добиться удаленного доступа, то вот инструмент проникновения в интранет. Давайте обеспечим удаленный доступ к локальному Dify без общедоступного IP-адреса или облачного сервера.

CpolarЭто мощное программное обеспечение для проникновения в интранет.,Он без проблем работает на нескольких операционных системах.,Включает Windows, MacOS и Linux,Поэтому независимо от того, какую операционную систему вы используете,Вы можете легко сопоставить порты протоколов HTTP, HTTPS и TCP сервера локальной интрасети с портом адреса общедоступной сети.,Разрешите пользователям общедоступной сети легко получать доступ к вашим службам интрасети.,Нет необходимости заходить на публичный сервер.

В этом примере используется развертывание Docker. Во-первых, на устройстве необходимо заранее установить Docker. и Докер Compos, если он не установлен, вы можете обратиться к докеру Официальное руководство по установке:Docker Официальное руководство по установке

1. Докер-отдел Dify

Согласно официальному документу развертывания, клонируем официальный докер Чтобы развернуть файл,сначала введите локальный в каталоге,осуществлятьcd /usr/local,Затем выполните следующую команду, чтобы клонировать его.

Язык кода:javascript
копировать
sudo git clone https://github.com/langgenius/dify.git

Дождавшись завершения извлечения, вы увидите, что существует папка diify, что указывает на то, что она была успешно извлечена.

Затем мы входим в каталог docker в папке diff.

Язык кода:javascript
копировать
cd /dify/docker

Затем выполните команду docker для развертывания и запуска diffy и дождитесь завершения развертывания после выполнения.

Язык кода:javascript
копировать
sudo docker compose up -d

После завершения развертывания docker,Вводим командуsudo docker psВы можете увидеть работающие контейнеры,В списке запущенных контейнеров вы можете увидеть, что есть контейнер nginx.,И внешний доступ - порт 80.,Это наш внешний порт доступа,Далее проводим проверку локального доступа

2. Доступ к Dify локально

После того, как вышеописанное успешно развернуто и запущено в Docker, следующим шагом будет локальный доступ к нему. Выше мы видели, что порт внешнего доступа — 80. Теперь, когда мы обращаемся к порту 80 Ubuntu снаружи или внутри, мы можем видеть наш локально развернутый Dify. Сервисное приложение. Локальный доступ указывает на успех. Для первого посещения необходимо создать учетную запись!

После создания мы можем успешно войти в систему dify. Конкретные методы использования dify см. в официальной документации dify. После успешного локального доступа также можно настроить удаленный доступ. Сначала установите инструмент проникновения в интрасеть cpolar.

3. Установите Cpolar в Ubuntu.

Служба Dify была успешно развернута в локальном Docker, и доступ к локальной сети был успешным. Затем мы установили инструмент проникновения в интрасеть Cpolar в Linux и перенаправили адрес общедоступной сети http, сопоставленный с локальным портом, через Cpolar. Мы можем легко получить удаленный доступ без него. необходимость зарегистрировать собственное доменное имя и приобрести облачный сервер. Вот шаги по установке cpolar.

Адрес официального сайта cpolar: https://www.cpolar.com

  • Используйте команду установки скрипта в один клик
Язык кода:javascript
копировать
curl -L https://www.cpolar.com/static/downloads/install-release-cpolar.sh | sudo bash
  • После завершения установки вы можете управлять службой cpolar следующими способами. Сначала выполните команду «Добавить настройки системной службы», чтобы запустить систему, а затем запустите службу.
Язык кода:javascript
копировать
# Добавьте настройки системной службы для запуска при загрузке
sudo systemctl enable cpolar

# Запустить службу cpolar
sudo systemctl start cpolar

# Перезапустите службу cpolar.
sudo systemctl restart cpolar

# Проверьте статус службы cpolar
sudo systemctl status cpolar

# Остановить службу cpolar
sudo systemctl stop cpolar

После установки Cpolar и успешного запуска службы получите доступ к интерфейсу управления Cpolar через IP-адрес локальной сети плюс порт 9200 во внутреннем или внешнем браузере: [http://192.168.xxx.xxx:9200] и войдите в систему, используя учетную запись. зарегистрировавшись на официальном сайте Cpolar. Вы можете увидеть веб-интерфейс конфигурации cpolar, а затем настроить его в веб-интерфейсе.

4. Настройте адрес общедоступной сети.

Нажмите «Управление туннелем» — «Создать туннель» на левой панели управления, чтобы создать туннель с общедоступным http-адресом для dify!

  • Имя туннеля: имя можно настроить. Будьте осторожны, чтобы не дублировать существующее имя туннеля.
  • Протокол: выберите http
  • Местный адрес: 80 (порт для внешнего доступа после развертывания докера)
  • Тип доменного имени: выберите случайное доменное имя бесплатно.
  • Регион: Выберите Китай

Нажмитесоздавать

После успешного создания туннеля щелкните статус слева — Список онлайн-туннелей, чтобы просмотреть сгенерированный адрес доступа к общедоступной сети. Существует два метода доступа: http и https, оба из которых можно выбрать ниже. . удаленный доступ

5. Удаленный доступ

Используйте адрес общедоступной сети https, сгенерированный Cpolar выше, и получите к нему доступ в браузере любого устройства. Вы можете успешно просмотреть интерфейс Ourdify, что значительно упрощает утомительную настройку облачного сервера. Вы можете добиться этого без необходимости. облачный сервер, для удаленного доступа не требуется общедоступный IP-адрес.

краткое содержание

Для лучшей демонстрации мы использовали туннель, сгенерированный cpolar в вышеупомянутом процессе, а его общедоступный сетевой адрес был сгенерирован случайным образом.

Преимущество этого случайного адреса в том, что он устанавливается быстро и может быть немедленно использован. Однако его недостатком является то, что URL-адрес генерируется случайными символами и его нелегко запомнить (например: 3ad5da5.r10.cpolar.top). Кроме того, этот адрес будет меняться случайным образом в течение 24 часов, что делает его более подходящим для временного использования.

Обычно я использую фиксированное имя субдомена второго уровня, потому что, когда я хочу отправить URL-адрес коллегам или клиентам, это фиксированный и легко запоминающийся публичный адрес (например: diify.cpolar.cn), что делает его более удобным. Формально и удобно. Общайтесь и сотрудничайте.

6. Фиксированный адрес общедоступной сети Cpolar.

Поскольку туннель, созданный с помощью cpolar выше, использует случайный адрес общедоступной сети, он будет меняться случайным образом в течение 24 часов, что не способствует долгосрочному удаленному доступу. Поэтому мы можем настроить для него имя субдомена второго уровня. Этот адрес является фиксированным и не будет меняться случайным образом [ps: cpolar.cn был сохранен].

Обратите внимание, что вам необходимо обновить пакет cpolar до базового пакета или выше, а пропускная способность, соответствующая каждому пакету, различна. [cpolar.cn зарегистрирован]

Войдите на официальный сайт cpolar.,Нажмите «Зарезервировать» слева.,Выберите, чтобы зарезервировать имя субдомена второго уровня.,Установите имя субдомена второго уровня,Нажмитебронировать,Имя поддомена второго уровня, зарезервированное копировать после успешного резервирования.

После успешного резервирования скопируйте имя субдомена второго уровня, которое было успешно зарезервировано.

Вернитесь в интерфейс управления веб-интерфейсом cpolar, нажмите «Управление туннелями» — «Список туннелей» на левой панели управления, найдите туннель, который вы хотите настроить, и нажмите «Изменить» справа.

Измените информацию о туннеле и настройте в туннеле успешно зарезервированное имя поддомена второго уровня.

  • Тип доменного имени: выберите имя субдомена второго уровня.
  • Субдомен: введите успешно зарезервированное имя субдомена второго уровня.

Нажмитевозобновлять(Уведомление,Просто нажмите один раз, чтобы обновить,Повторно отправлять не нужно)

После завершения обновления откройте список онлайн-туннелей. В это время вы можете видеть, что адрес общедоступной сети изменился, а вторичное имя адреса стало вторичным именем поддомена, которое мы установили сами.

7. Доступ по фиксированному адресу

Наконец, мы используем фиксированный https-адрес общедоступной сети для доступа и видим, что тот же доступ является успешным. Таким образом, устанавливается фиксированный и постоянный адрес общедоступной сети, и к локальной службе diffy можно получить удаленный доступ в общедоступной сети. сетевая среда в любое время и в любом месте без необходимости использования общедоступного IP-адреса, облачный сервер не требуется!

boy illustration
Углубленный анализ переполнения памяти CUDA: OutOfMemoryError: CUDA не хватает памяти. Попыталась выделить 3,21 Ги Б (GPU 0; всего 8,00 Ги Б).
boy illustration
[Решено] ошибка установки conda. Среда решения: не удалось выполнить первоначальное зависание. Повторная попытка с помощью файла (графическое руководство).
boy illustration
Прочитайте нейросетевую модель Трансформера в одной статье
boy illustration
.ART Теплые зимние предложения уже открыты
boy illustration
Сравнительная таблица описания кодов ошибок Amap
boy illustration
Уведомление о последних правилах Points Mall в декабре 2022 года.
boy illustration
Даже новички могут быстро приступить к работе с легким сервером приложений.
boy illustration
Взгляд на RSAC 2024|Защита конфиденциальности в эпоху больших моделей
boy illustration
Вы используете ИИ каждый день и до сих пор не знаете, как ИИ дает обратную связь? Одна статья для понимания реализации в коде Python общих функций потерь генеративных моделей + анализ принципов расчета.
boy illustration
Используйте (внутренний) почтовый ящик для образовательных учреждений, чтобы использовать Microsoft Family Bucket (1T дискового пространства на одном диске и версию Office 365 для образовательных учреждений)
boy illustration
Руководство по началу работы с оперативным проектом (7) Практическое сочетание оперативного письма — оперативного письма на основе интеллектуальной системы вопросов и ответов службы поддержки клиентов
boy illustration
[docker] Версия сервера «Чтение 3» — создайте свою собственную программу чтения веб-текста
boy illustration
Обзор Cloud-init и этапы создания в рамках PVE
boy illustration
Корпоративные пользователи используют пакет регистрационных ресурсов для регистрации ICP для веб-сайта и активации оплаты WeChat H5 (с кодом платежного узла версии API V3)
boy illustration
Подробное объяснение таких показателей производительности с высоким уровнем параллелизма, как QPS, TPS, RT и пропускная способность.
boy illustration
Удачи в конкурсе Python Essay Challenge, станьте первым, кто испытает новую функцию сообщества [Запускать блоки кода онлайн] и выиграйте множество изысканных подарков!
boy illustration
[Техническая посадка травы] Кровавая рвота и отделка позволяют вам необычным образом ощипывать гусиные перья! Не распространяйте информацию! ! !
boy illustration
[Официальное ограниченное по времени мероприятие] Сейчас ноябрь, напишите и получите приз
boy illustration
Прочтите это в одной статье: Учебник для няни по созданию сервера Huanshou Parlu на базе CVM-сервера.
boy illustration
Cloud Native | Что такое CRD (настраиваемые определения ресурсов) в K8s?
boy illustration
Как использовать Cloudflare CDN для настройки узла (CF самостоятельно выбирает IP) Гонконг, Китай/Азия узел/сводка и рекомендации внутреннего высокоскоростного IP-сегмента
boy illustration
Дополнительные правила вознаграждения амбассадоров акции в марте 2023 г.
boy illustration
Можно ли открыть частный сервер Phantom Beast Palu одним щелчком мыши? Супер простой урок для начинающих! (Прилагается метод обновления сервера)
boy illustration
[Играйте с Phantom Beast Palu] Обновите игровой сервер Phantom Beast Pallu одним щелчком мыши
boy illustration
Maotouhu делится: последний доступный внутри страны адрес склада исходного образа Docker 2024 года (обновлено 1 декабря)
boy illustration
Кодирование Base64 в MultipartFile
boy illustration
5 точек расширения SpringBoot, супер практично!
boy illustration
Глубокое понимание сопоставления индексов Elasticsearch.
boy illustration
15 рекомендуемых платформ разработки с нулевым кодом корпоративного уровня. Всегда найдется та, которая вам понравится.
boy illustration
Аннотация EasyExcel позволяет экспортировать с сохранением двух десятичных знаков.