Category Archives: 大語言模型

測試OpenAI API

要先有OpenAI的帳號,還要拿到API 密鑰。

下面是步驟

1. 進入OpenAI Platform的網頁

    https://platform.openai.com/docs/overview

    如果沒有帳號,先申請一個。

    2. 然後建立一個專案

    點左下角的 Create Project,我起的名字是 HelloWorld.

    3. 進入 API的網頁,建立 密鑰 (API key)

    https://openai.com/api/

    點 Start Building

    進入下一個網頁

    點左下的 API Keys

    Read the rest of this entry

    GPT是模型,ChatGPT是產品

    GPT 是 Generative Pretrained Transformer 的縮寫

    GPT 是「預訓練的」、「生成式的」,「模型」

    它透過「學習」大量的的文章,產生對人類文字,以及程式語言的瞭解,產生能夠生成文字的能力。

    本質上是模仿,但也不完全是照抄,而是瞭解字和字,詞彙和詞彙,句子和句子,之間的關係。

    ChatGPT是一個應用程式,它使用GPT。來與人類對話。

    Read the rest of this entry

    LLM大語言模型的發展歷史

    這是我的筆記

    一開始,跟自然語言處理(nature language processing, NLP)有關.

    TF-IDF:TD在1957年,IDF在1972年,Google的搜尋有用到。

    n-Gram:n-gram 是通過 統計的機率,來依據前面的詞預測句子的下一個詞。

    中文輸入法有聯想輸入,就是一種應用,如果只有根據前面一個字或一個詞,預測不會很準。

    Read the rest of this entry