AI 推理是指 AI 模型產生預測或結論。AI 訓練是使 AI 模型能夠做出準確推理的過程。
閱讀本文後，您將能夠：
複製文章連結
在人工智慧 (AI) 領域，推理是使用經過訓練的機器學習模型*從全新資料中得出結論的過程。能夠進行推理的 AI 模型無需所需結果的範例即可進行推理。換句話說，推理是 AI 模型的實際應用。
AI 推理的一個範例是自動駕駛汽車，即使在以前從未行駛過的道路上，它也能夠識別停車標誌。在新的環境中識別這個停車標誌的過程就是推理。
另一個範例：使用職業運動員過去表現進行訓練的機器學習模型，可能能夠在特定運動員簽訂合約之前預測其未來表現。這種預測也是一種推理。
*機器學習是人工智慧的一種。
為了能夠辨識新地點的停車標誌（或預測專業運動員的表現），機器學習模型需要經歷一個訓練過程。對於自動駕駛汽車，其開發人員向模型展示了數千或數百萬張停車標誌影像。執行該模型的車輛甚至可能已經在道路上行駛（有人類駕駛員作為備援），使其能夠從反覆試驗中學習。最終，經過足夠的訓練後，該模型能夠自行識別停車標誌。
幾乎所有現實世界 AI 應用都依賴 AI 推理。一些最常用的範例包括：
從本質上講，AI 訓練是指向 AI 模型提供大型資料集。這些資料集可以是結構化或非結構化的、有標記或無標記的。某些類型的模型可能需要輸入及其所需輸出的特定範例。其他模型（例如深度學習模型）可能只需要原始資料。最終，模型學會識別模式或相關性，然後它們可以根據新的輸入做出推理。
隨著訓練的進行，開發人員可能需要對模型進行微調。他們會讓模型在完成初始訓練過程後立即提供一些推理，然後修正輸出。想像一下，AI 模型的任務是從寵物相片資料集中識別狗的相片。如果模型識別的是貓的相片，則需要進行一些調整。
AI 程式將電腦的功能擴展到遠遠超出了它們以前的能力。但代價是使用比傳統電腦程式更多的處理能力——就像對一個人來說，解決一個複雜的數學方程式比解決「2 + 2」需要更多的注意力和专注力。
就運算能力而言，訓練 AI 模型可能非常昂貴。但這大體上是一次性支出。理想情況下，在模型經過適當的訓練後，就不再需要進一步訓練。如果確實需要使模型適應新的使用案例，開發人員可以使用低秩適應 (LoRA) 等密集度較低的技術，而不必從頭開始重新訓練模型。
然而，推理會持續進行。如果一個模型正在積極使用中，它就會不斷地將其訓練套用至新資料並做出更多的推理。這需要相當多的運算能力並且可能非常昂貴。
Cloudflare Workers AI 使開發人員能夠存取全球各地的 GPU 來執行 AI 任務。它與 Vectorize 配合使用，Vectorize 是為機器學習模型產生和儲存嵌入的一種服務。Cloudflare 還提供經濟高效的物件儲存體來維護訓練資料集合——R2，一個零輸出費用的儲存平台。
詳細瞭解 Cloudflare 如何協助開發人員在邊緣執行 AI 推理。
AI 訓練是 AI 開發的初始階段，在這個階段模型會進行學習；而 AI 推斷是後續階段，在這個階段，訓練好的模型會將它的知識套用至新資料，以進行預測或得出結論。
AI 訓練的過程包含輸入大量資料集給模型，這些資料可以是結構化或非結構化的。模型會學習辨識其中的模式與關聯性。開發人員也可能透過修正模型的初始輸出來進行微調，這個過程類似於以試誤的方式進行教導。
自動駕駛汽車在一條新道路上辨識出停車標誌就是推斷的一個例子。控制車輛的模型正將它所接受的訓練套用在一個未曾遇過的情境上，以做出正確的判斷。
訓練一個 AI 模型在運算資源方面可能非常耗費成本，但通常是一筆一次性的開銷。相對而言，推斷是一個持續進行的過程，由於模型需要即時處理新的資料，因此也會消耗大量的運算資源。
幾乎所有 AI 的實際應用都仰賴推理。常見的例子包括：大型語言模型 (LLM) 回應新的提示、開發人員使用「Vibe 編碼」來建立應用程式、預測分析進行未來趨勢預測、網路安全產品辨識新型惡意程式碼，以及金融模型預測市場表現等。