akashalab-安裝&執行

發表於 更新於 分類於

pip 安裝

  1. 下載或git clone akasha ui-dev專案分支到你的資料夾 
    1
    2
    $ git clone --branch ui-dev https://github.com/iii-org/akasha.git
    $ cd akasha
  2. 安裝所需python套件 
    1
    $ python -m pip install -r requirements.txt
  3. 啟動fast api server 和 streamlit 介面 
    1
    $ nohup /bin/bash -c "uvicorn api:app &" && streamlit run main.py

image

Docker 安裝

在某些情況之下採用pip 安裝，無法開啟dev-ui，或許這時候可以考慮使用docker

  1. 下載或git clone akasha ui-dev專案分支到你的資料夾 
    1
    2
    $ git clone --branch ui-dev https://github.com/iii-org/akasha.git
    $ cd akasha
  2. (optional) 編輯 install.env 檔案 
    1
    2
    3
    4
    5
    6
    ## install.env
    MODEL=./model    # 存放語言模型的資料夾
    CONFIG=./config # 存放dataset, knowledge 配置檔的資料夾
    DOCS=./docs # 存放文件的資料夾
    IMAGE_NAME=akasha_dev_ui
    IMAGE_VERSION=0.1
  3. 執行安裝 script 
    1
    $ sudo bash install.sh

預設openAI key

如果您想要添加預設的 OpenAI API 密鑰或 Azure OpenAI API 密鑰，以便每個用戶都可以直接使用它，在第二步中，您可以在 install.env 文件中添加您的預設密鑰。
這將在你的config目錄中創建一個 default_key.json 文件，你可以更改該文件中的密鑰值以便在啟動akasha_dev_ui後更改或刪除密鑰。

openAI:

1
2
3
4
5
6
7
## install.env ##
MODEL=./model   
CONFIG=./config 
DOCS=./docs 
IMAGE_NAME=akasha-lab
IMAGE_VERSION=0.6
DEFAULT_OPENAI_API_KEY={your openAI key}

Azure openAI:

1
2
3
4
5
6
7
8
## install.env ##
MODEL=./model   
CONFIG=./config 
DOCS=./docs 
IMAGE_NAME=akasha_dev_ui
IMAGE_VERSION=0.6
DEFAULT_AZURE_API_KEY={your Azure key}
DEFAULT_AZURE_API_BASE={your Azure base url}


使用docker image建構container

1.創建資料夾儲存模型、文件資料

1
2
3
4
5
mkdir -p config
mkdir -p model
mkdir -p docs
mkdir -p chromadb

2.創建帳號yaml檔accounts.yaml

1
2
3
4
5
6
7
8
9
10
11
12
cookie:
  expiry_days: 30
  key: random_signature_key
  name: random_cookie_name
credentials:
  usernames:
    cws:
      email: cws@gmail.com
      name: cws
      password: $2b$12$jCB8MeVqMc3jWDynjNyeVeLS8IWBduxnX362gLfJ1KIkeTPH9KYha
  emails: []

3.從docker hub下載image並執行

1
2
sudo docker pull ccchang0518/akasha-lab:0.6
sudo docker run -v ./model:/app/model -v ./config:/app/config -v ./docs:/app/docs -v ./chromadb:/app/chromadb -v ./accounts.yaml:/app/accounts.yaml -p 8501:8501 --name akasha_dev_ui ccchang0518/akasha-lab:0.6


使用API

若要直接串接akasha dev-ui API，啟動fastapi後，可至docs查詢API functions (http://127.0.0.1:8000/docs)

image



若為docker安裝請使用-p {port}:8000 開啟fastapi port

1
sudo docker run -v ./model:/app/model -v ./config:/app/config -v ./docs:/app/docs -v ./chromadb:/app/chromadb -v ./accounts.yaml:/app/accounts.yaml -p 8000:8000 -p 8501:8501 --name akasha-lab akasha-lab:0.6