AI 時代,指令就是施展魔法的咒語。
雖然,LLM(大語言模型)經歷了一年多的狂飆突進,整體性能獲得極大的增長。
但在自身防護上,仍然略顯差強人意。
像國外最強的AI 工具——GPT-4o,以及國內用戶使用量最大的 AI ——KimiChat,在Prompt(提示詞)攻擊下,都能被輕松套出核心的 System Prompt(系統指令)。
甚至號稱有300多萬 GPTs 的GPT Store,還有Kimi+里面的 24 個自定義角色,都能用一套 Prompt 破解。
對于用戶來說,獲取這些 System Prompt(系統指令)有兩個顯性作用:
??像 GPT-4o、KimiChat 的官方后臺指令,可以幫我們更好的了解這個 AI 的性能、限制,使用邊界;
?? 而 GPTs 以及 Kimi+ 里面自定義角色的指令,就像一堆行業專家,幫你快速摸清這個行業最貼近實操、實戰層面的”運行邏輯“。
接下來,我們先看一下 OpenAI 春季發布會剛剛推出的 GPT-4o 的 System Prompt。
雖然 OpenAI 這兩年在整體防御性上,做了一定的加強,但在組合攻擊下,GPT-4o 還是吐出了完整的后臺 Prompt(如下圖)。
我們把它翻譯成中文,方便大家理解
中文完整版↓
接下來,GPT-4 的↓
除了底層模型,GPT-4 跟 GPT-4o 的 System Prompt 基本一致。
我們再看看 KimiChat 最新的系統指令↓
完整版↓
兩套System Prompt:
? ChatGPT 的系統指令更偏向于,對三大功能:Dalle、Browser、Python 的限制、約束。
? 而 KimiChat 的System Prompt 更偏向于引導 AI,以讓它更好、更快地回答用戶問題。
接下來,我們再隨便挑一個 GPTs 和 Kimi+ 的自定義角色,看看他們的后臺指令。
比如,GPT Store 今天首推的——Tutor Me。
它是著名教育機構——Khan Academy(可汗學院)提供的一個用來輔助學習的 GPTs。
有超過 10000 人打出4.5 分的評分,可以說是一個非常棒的 AI 工具。
接下來,給大家看一下它的完整 Prompt,非常的長。
Kimi+ 里面我們看一下這個號稱”零門檻成為提示詞大師“的——提示詞專家角色。
它有一條非常系統的結構化 Prompt,里面還加入了少樣本案例,從而保證有穩定的結果輸出。
完整版 Prompt↓
OK,今天的分享就到這里。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.