[筆記] Dify 開源 AI 模板套件

-

安裝Dify (開源AI模板套件)

硬體需求：CPU至少雙核，超過4GB記憶體

軟體需求：Windows with WSL2，安裝Docker Desktop

步驟：

1.      git clone --branch "$(curl -s https://api.github.com/repos/langgenius/dify/releases/latest | jq -r .tag_name)" https://github.com/langgenius/dify.git

從網路下載Dify，過程如果需要安裝jq指令，請執行sudo apt install jq –y。

2.         進到dify/docker目錄，並複製cp .env.example .env，由於隱藏檔必須ls –a才看得到。

3.         執行docker compose up –d，便開始下載相關鏡像。

4.         五個核心服務(api、worker、worker_beat、web、plugin_daemon)，以及六個依賴的元件(weaviate、db_postgres、redis、nginx、ssrf_proxy、sandbox)被docker執行。下載的鏡像如下圖所示。

 


5.         開啟瀏覽器http://localhost/install，便開始安裝Dify應用程式，設定使用者與密碼。

6.   從Ubuntu本地進到http://localhost/apps，如果從其他電腦的瀏覽器連線到http://192.168.100.182/signin，便會出現Dify的登入畫面，登錄後看到的與主機相同。

7.         關閉Dify，則執行docker compose down。重啟，則回到上面第三步。


可能遇到的問題：

 Ollama與Docker容器之間網路不通

Dify安裝在Docker容器內，而Ollama安裝在host主機上，從容器裡無法直接訪問到Ollama 127.0.0.1:11434的端口。在主機上，指令檢查ss -lntp | grep 11434端口，如果出現0.0.0.0:11434或者*:11434，代表Ollama已經開放任何IP的監聽端口了。如果沒有，則修改/etc/system/system/ollama.service配置檔的內容，新增一行

        Environment=“OLLAMA_HOST=0.0.0.0”

然後執行指令systemctl daemon-reload和systemctl restart ollama，這樣Dify就能訪問到主機的Ollama，配置host IP (e.g., 192.168.100.182)，如下圖。

位置： 807台灣高雄市三民區

留言

發佈留言

此網誌的熱門文章

[筆記] ESP32 在 VS Code 開發環境的編譯與除錯

-
圖片
#  ESP32 評比與教學推薦 NodeMCU-32s 的理由 準備工作 1) 安裝 Visual Studio Code (VS Code)，並安裝其他 C/C++ 插件。 2) 安裝 Python 套件 3) 下載並執行 Setup ESP-IDF Tools：檢查電腦系統的環境，並幫我們把編譯的工具鏈 tool chain 安裝起來。 4) 在 VS Code 安裝 ESP-IDF 插件，點選插件後，看到下圖一並設定路徑後，點擊安裝 ESP-IDF。安裝 v4.2 版本後，會詢問是否下載安裝工具鏈，如果系統已經有安裝，那就設好路徑即可。最後，再安裝 python 虛擬環境給 ESP-IDF，便完成整個環境設定。 圖一：ESP-IDF 擴充插件 建立專案 1) 從 ESP-IDF 選範例專案：按 F1 後，上方的選單輸入 " ESP-IDF: Show Examples Projects "，出現下圖二的範例專案列表，我們可以從中選一個範例來創建，例如我從當中選了 blink 或 hello_word。按下右上方的創建，就會在左半邊出現專案。 圖二：ESP-IDF 範例專案的列表 2) 編譯專案：按 F1 後，上方的選單輸入 " ESP-IDF: Build your project "，VS Code 環境就會開發進行編譯的工作，在下方的欄位會顯示編譯的過程。 3)  設定模組型號：按 F1 後，上方的選單輸入 " ESP-IDF: Device configuration "，彈出選項後，我們選擇 EPS32 為裝置的型號。 4) 電腦接上 ESP32 模組：按 F1 後，上方的選單輸入 " ESP-IDF: Select port to use "，在 VS Code 會自動彈出 COM port 讓我們選擇，點選 EPS32 連接的 COM 即可。 5)  燒錄程式碼到 ESP32：按 F1 後，上方的選單輸入 " ESP-IDF: Select Flash Method and Flash "，彈出選項 JTAG 或 UART，我們選擇 UART 為下載燒錄的方式 (前面我們已經設定 COM 了)。下載燒錄的方式設好了，下次只要...
Read more »

[開箱文] 帶有AI算力的正點原子 STM32N647 開發板

-
圖片
          STM32N647 晶片是單核 Cortex-M55 ，其內部工作頻率為 800MHz( 超頻 ) ，內建的記憶體大小約 4.2MB ，與其他 STM32Fx 系列的晶片不同，它沒有內建 Flash ，程式碼必須燒錄在外部的 Flash 。此外，晶片內建 NPU ，具備小量的 AI 加速算力，還有 JPEG/H.264 編碼器。順帶提一點，若有製作板卡的需求時，得由專業的PCB廠商來處理，推薦 JLCPCB  https://jlcpcb.com/hk 。 開發環境 過去習慣用 Keil IDE 開發 STM32 的板子，但是 N647 只能在 Keil 編譯，而無法進行燒錄與 debug ，因此只能用官方的 STM32Cube IDE 進行 step debug ，燒錄則用 STM32Cube Programmer 工具，將程式碼燒到外部的 Flash 記憶體。 影片連結【【正点原子】手把手教你学 STM32CubeIDE 开发【真人出镜】 STM32CubeIDE 开发视频教程 单片机 嵌入式】 https://www.bilibili.com/video/BV1Wp42127Cx/?p=3&share_source=copy_web&vd_source=c4accd27d29c32708912d15f0b5f15ce 開機模式 晶片的開機模式透過兩根 pin 腳切換，如下表，有三種模式：開發階段的開機 、 Flash 開機 、 序列方式開機。一般開發階段的開機就是透過 STM32Cube IDE 環境來運行程式碼，一旦 reset 後程式碼就消失了。 Flash 開機就是將程式碼燒錄到外部 Flash ，晶片透過 SPI 介面讀取程式碼運行。另一種是透過 USB 或 UART 序列方式讀取程式碼來運行。 在開發板的軟體包裡面，有個 External_Loader 目錄，裡面包含 MX25UM2565G 記憶體的下載程式碼的演算法 (MX25UM25645G_ATK-CNN647B_ExtMemLoader. stldr ) ，將這個檔案複製到 STM32Cube Programmer 工具的 bin 目錄底下。 外部擴展定址 底下...
Read more »

Vibe Coding： 嵌入式系統GUI開發案例

-
圖片
緣由： 在嵌入式系統或應用程式，開發 GUI 圖形人機介面是一件費時費工的過程，比如說：調配元件的顏色或元件擺放的位置 … 等工作。現在用 AI 協助我們做 GUI 的開發， AI 搭建一個 UI 的軟體架構後，後續再由我們做細部的開發，這過程非常顯著地縮短了開發時程，參考 YT 影片連結 https://youtu.be/47qwL7LXJQ0 。 初步構想： 1.    用 Gemini 將 GUI 圖形設計出來，僅僅生成圖片。 2.    用 Cursor 開發套件，將圖片載入後，讓 AI 開發程式碼。 3.    我們手動編譯上面的程式碼，有問題再讓 AI 除錯或調整。   操作步驟： 在 Gemini 對話，給底下的提示詞 “ 根據 LVGL 8.4 版本， LCD 屏幕 800 x 480 ，重新設計一個人機的新畫面 : 有三個按鈕 ( 停止 , 暫停 , 運行 ) ，上面有機台名稱，速度，量產數量的顯示 ( 以英文字為主 ) ，先給我看圖片 ” ，生成圖片如下，如果不滿意內容，繼續讓 Gemini 調整直到滿意為止。 接下來，在 Cursor 開發環境，先給它工作區，目錄裡面有參考程式碼，然後給底下的提示詞： “ 根據 LVGL 8.4 library ，參考上傳的圖片設計出 UI 介面， UI 程式設計在 lvgl_layout.cpp 檔案裡。 ” 最後一步，上面生成的程式碼，我們再放到 Arduino IDE 去編譯，如果有編譯錯誤，再跟 AI 回報， AI 會根據問題修改。由於我們只讓 AI 設計 GUI 畫面，這項工作範圍不會影響到其他檔案的功能。   結論： 上述這個 AI 開發案例適用於對嵌入式系統開發已經有經驗的工程師，如果是初學者要走這樣的流程可能會遇上不少難點。面對現階段各式各樣的 AI IDE 工具，資深工程師能利用它們來協助設計開發程式碼，以便大大縮短開發的時程。
Read more »

[筆記] 以 STM32 為核心的四軸無人機套件

-
圖片
        最近買一套無人機套件，並研究其原理。套件包含一個遙控器，以及無人機主體，如下圖所示。系統架構與先前的平衡車系統類似，MCU 為控制與運算的核心，周邊搭配一顆 MPU6050 重力加速計，用來偵測系統的軸向變化，再來就是控制馬達驅動的模組。從系統原理來看，無人機比平衡車的運算更為複雜，建議可以先從平衡車的系統開始學習，然後再來研究無人機的系統。 圖一：無人機的套件         遙控器的電路，由 STM32F103 為核心，搭配 NRF24L01 做為無線傳輸的模組，以及周邊的數個按鈕和兩顆搖桿頭。飛行器的電路，同樣以 STM32F103 為控制核心，搭配 NRF24L01 透過 SPI 介面控制，一顆 MPU6050 加速度計透過 I2C 介面控制，然後利用 PWM 訊號控制四軸的馬達。另外，STM32 的 USB 介面可以連接到電腦，電腦端會顯示一個 HID 裝置。這套件的資料中，提供 PC 上面的監控軟體，如下圖所示，能顯示目前飛行器的三軸情況，以及遙控器傳給飛行器的數值。不得不說這整套系統，從硬體到韌體，再到電腦端的監控軟體都非常專業，適合想進入這領域的人員好好學習。 圖二：PC 端的監控軟體         再來，韌體的開發，該套件提供完整的原始碼，遙控器和飛行器都是用 KEIL 工具來開發和編譯程式碼。要留意的是有的套件上面焊的是 F103C 6 ，有的是 F103C 8 ，這兩者晶片內部的 Flash 配置不同，前者是 Low Density 核心，後者是 Medium Density 核心，因此在編譯程式碼時要注意。         無人機的操作比起平衡車更需要安全性，畢竟平衡車是在二軸平面上運行，但是無人機是三軸空間的運行，危險性更高。當遙控器與飛行器主體建立連線後，飛行器的螺旋槳還處在鎖定狀態，不會旋轉。 解鎖的方式 需要遙控器的油門，油門壓到最低，再將油門加到最高，最後再將油門壓到最低後，螺旋槳便會開始轉動，此時慢慢增加油門，飛行器就會慢慢上升。
Read more »

[應用] 在 ESP32 Audio 開發板的 VoIP 範例

-
圖片
開發板介紹         安信可 公司(Ai-Thinker)基於 ESP32 晶片推出一塊具有語音功能的 ESP32 Audio Kit 開發板，簡稱 ESP32-A1S，它與原廠的 ESP32 Lyrat 開發板都使用同一套 ESP-ADF SDK 軟體，但是開發板的電路有些差異，底層的驅動程式需要替換才能順利開發。         首先，最大的差異在 ESP32-A1S 語音編碼晶片採用 AC101 ，不過晶片被封裝在 ESP32 模組上，所以我們在開發板上面看不到這顆晶片，然而 ESP32 Lyrat 板採用 ES8388 晶片，因此在 ESP-ADF 中語音編碼的驅動程式需要更替。另外，其他不一樣的地方都在 GPIO 接腳的連接上，整理後，如下表所示，我們需要調整 ADF 底層的 HAL 和 Board 的配置，SDK 才能正常使用。 表一：ESP32-Lyrat 與 Audio Kit 開發板的差異         第一步，下載 ESP-ADF。在 VS Code 開發環境下[1]，按 F1 後，選取 "Install ESP-ADF"，VS Code 會自動從 GitHub 下載，並安裝 ADF 開發套件。如果是使用 ESP32-Lyrat 板子，可以直接跳到第四步，創建範例開始開發了。使用 ESP32-A1S 板子前，需要調整一下底層代碼，接續前面動作，我們從 GitHub 下載 A1S 的驅動程式， ESP32-A1S-AudioKit  程式碼，其目錄結構與 ADF 一樣，方便我們相互比對兩者差異。         第二步，到  \esp-adf\components\ audio_hal \driver 目錄下，將下載 A1S 裡的 AC101 驅動程式放進來。接著，要將 ac101 目錄和 ac101.c 加到  CMakeLists.txt 文件，同樣也要加到  component.mk 文件裡 ，這樣編譯過程就會把 AC101 驅動程式加進來編譯了。         第三步，我們再到...
Read more »

[筆記] SIP VoIP in Android background 避免被系統殺掉

-
圖片
        在前面一文 「 SIP Voip 在 Android 系統的開發 」 中，我設計了一個 SIP VoIP APP，但是遇到一個大問題 ---- 就是 APP 會被系統殺掉。為了解決這個問題，在網路上尋找各種方法，首先我們要先把 APP 拆成 Activity 和 Service 兩個部份，如下圖一所示。Service 負責透過 JNI 介面與底層的 SIP 、 Media Codec...等通訊，而 Activity 則負責使用者顯示的介面，一旦 Activity 關閉後，至少還有 Service 可以在後台繼續運行。 圖一：SIP VoIP 系統架構圖 Activity 與 Service 間的通訊         兩者之間的通訊分成 Activity 到 Service 的方向，以及 Service 到 Activity 的方向。先說 A 到 S 的方向，第一步就是 Activity bind Service，如下面的代碼。接著，建立一個與 Service 的連線，取得 mService 之後，便可以在 Activity 呼叫 Service 的函式了。可以參考網路上其他人的文章與範例說明。         Intent intent = new Intent ("com.altigen.siptalk.SipService"); bindService (intent, sc, Context.BIND_AUTO_CREATE); private ServiceConnection sc = new ServiceConnection() { @Override public void onServiceConnected(ComponentName name, IBinder service) { mBound = true; LocalBinder binder = (LocalBinder) servi...
Read more »