Category Archives: 大語言模型
測試OpenAI API
要先有OpenAI的帳號,還要拿到API 密鑰。
下面是步驟
1. 進入OpenAI Platform的網頁
https://platform.openai.com/docs/overview
![](https://analyticsapps.wordpress.com/wp-content/uploads/2024/06/screen-shot-2024-06-23-at-8.08.46-pm.png?w=1024)
如果沒有帳號,先申請一個。
2. 然後建立一個專案
點左下角的 Create Project,我起的名字是 HelloWorld.
3. 進入 API的網頁,建立 密鑰 (API key)
點 Start Building
![](https://analyticsapps.wordpress.com/wp-content/uploads/2024/06/screen-shot-2024-06-23-at-8.11.40-pm.png?w=1024)
進入下一個網頁
點左下的 API Keys
![](https://analyticsapps.wordpress.com/wp-content/uploads/2024/06/screen-shot-2024-06-23-at-8.16.11-pm.png?w=1024)
GPT是模型,ChatGPT是產品
GPT 是 Generative Pretrained Transformer 的縮寫
GPT 是「預訓練的」、「生成式的」,「模型」
它透過「學習」大量的的文章,產生對人類文字,以及程式語言的瞭解,產生能夠生成文字的能力。
本質上是模仿,但也不完全是照抄,而是瞭解字和字,詞彙和詞彙,句子和句子,之間的關係。
ChatGPT是一個應用程式,它使用GPT。來與人類對話。
Read the rest of this entryLLM大語言模型的發展歷史
這是我的筆記
一開始,跟自然語言處理(nature language processing, NLP)有關.
TF-IDF:TD在1957年,IDF在1972年,Google的搜尋有用到。
n-Gram:n-gram 是通過 統計的機率,來依據前面的詞預測句子的下一個詞。
中文輸入法有聯想輸入,就是一種應用,如果只有根據前面一個字或一個詞,預測不會很準。
Read the rest of this entry