用35行代碼開發一個自己的AI對話機器人

語言: CN / TW / HK

之前也寫了好幾篇關於ChatGPT的文章了,領略到了與深入優化的GPT-3(Generative Pre-trained Transformer)對話過程中的各種驚喜。但是因為ChatGPT的爆發性流量和訪問限制問題,平時使用的時候多多少少會不太方便。其實OpenAI本身就提供了大量的API接口,可以讓用户免費使用開發出自己的Web APP,包括我們今天要説的對話機器人,關於API的一些應用,我在之前一篇文章做過介紹,有興趣可以點開閲讀: 十分鐘學會開發自己的Python AI應用【OpenAI API篇】

雖然目前OpenAI提供的的API沒法開發出像ChatGPT那樣就同一個話題持續對話的應用(可以期待下即將發佈的ChatGPT API,不過會收費),但是基於一個知識,一個文本編輯需求,如續寫,或者一個寫作大綱等等單一的文本需求,用目前的Open AI Text Completion類的API,配合Steamlit庫,很簡單地就可以開發一個對話的Web應用。而且由於使用的是API方式進行訪問,平時使用時對訪問IP沒有任何限制,也不存在堵塞排隊現象。

老規矩,OpenAI網址:openai.com. 註冊登錄需要有谷歌訪問能力,和海外手機號驗證(教程很多,可以在平台裏直接搜索到)。

Streamlit

Streamlit 是一個開源框架,非常適合機器學習和數據科學。 開發人員用它創建用於數據可視化和數據分析的交互式應用程序,而無需編寫大量的 HTML、CSS 或 JavaScript 代碼。 Streamlit 通過 Python 構建應用程序,使數據科學家和軟件工程師可以輕鬆地使用已有的技能來創建用於數據探索和數據分析的交互Web。本文就用Streamlit來開發這個AI對話的Web頁面。

有兩種使用 Streamlit 的方法,一種是在他們自己的雲平台中,一種是在本地安裝在你自己電腦或服務器上。對於第一個選項,你需要在Streamlit平台上註冊賬號,鏈接自己的GitHub,這裏不多介紹了。這裏主要介紹第二種方法,因為使用起來更自由。

OpenAI API

要使用API,你需要獲得OpenAI的API 密鑰。需要訪問註冊一個OpenAI賬户,具體方法,掘金上有不少這裏就不復述了。

我們今天要用的接口就在Text completion裏面。

有了賬號我們就可以在自己賬號裏找到API Key,如下圖。注意創建API Key時務必第一時間複製下來,因為創建完關閉對話框以後,就再也無法看到完整的Key。

有了API key,我們就可以創建一個 Streamlit Python 腳本了。

創建Python腳本

首先,先把必要的庫給裝上: $ pip install streamlit $ pip install streamlit_chat $ pip install openai $ pip install python-detenv 具體的代碼實現是很容易的,首先導入所需的庫,向openai.api_key 中剛剛複製出來的API Key。 import openai import streamlit as st from streamlit_chat import message import os from dotenv import load_dotenv openai.api_key = '你的API_KEY' 然後定義generate_response()函數: def generate_response(prompt): completion=openai.Completion.create( engine='text-davinci-003', prompt=prompt, max_tokens=1024, n=1, stop=None, temperature=0.6, ) message=completion.choices[0].text return message

通過將用户對話指令(Prompt)作為參數從 GPT-3 生成OpenAI的text completion模型響應。我們這裏還指定了模型 'text-davinci-003' ,當然你還可以使用其他模型,不過Davinci的訓練數據是目前比較新的。

也可以為Prompt設置字數限制 (max_tokens)。

其中還有一個temperature變量非常相關,因為它實質上定義了AI創造力的級別,它可以設置在 0 和 1 之間。0 產生穩健的輸出,而 1 則具有高度創造力。

接下來的代碼,就是演示如何用streamlit,包括一個第三方的庫streamlit_chat,建立一個對話型的web界面,其中創建past(用户在輸入框的輸入text)和generated(調用generate_response()後API回覆的text)列表,用來保存和顯示歷史對話記錄,代碼很簡單,一目瞭然: ``` st.title("也魚實驗室的AI Chatbot")

storing the chat

if 'generated' not in st.session_state: st.session_state['generated'] = [] if 'past' not in st.session_state: st.session_state['past'] = [] user_input=st.text_input("You:",key='input') if user_input: output=generate_response(user_input) #store the output st.session_state['past'].append(user_input) st.session_state['generated'].append(output) if st.session_state['generated']: for i in range(len(st.session_state['generated'])-1, -1, -1): message(st.session_state["generated"][i], key=str(i)) message(st.session_state['past'][i], is_user=True, key=str(i) + '_user') 以上就是全部代碼,把它合併保存為demo.py,總共不到40行,接下來你只要在該文件目錄下用命令行輸入: python -m streamlit run demo.py ```

就會看到以下打印,一個界面很光潔的網頁隨即會在本地打開: ``` You can now view your Streamlit app in your browser.

Local URL: http://localhost:8502 Network URL: http://xxx.xxx.xxx.xxx(我的IP):8502 ```

好了,試試與其對話吧,你可以跟他打招呼,獲取知識,讓其提供寫作提綱,讓其續寫你的文章,或是為你總結一段文字。

在 ChatGPT API 發佈之前,這可能是使用 GPT-3 模型的最簡單方法。 最後需要提的是,關於使用Streamlit,我們必須知道,如果我們需要做一個交互性強及安全的大型應用,那麼還是要考慮使用Django這類Web框架進行開發。