Sora關鍵功能僅限部分用戶

在周一，OpenAI發布了其全新的視頻生成工具Sora。不過，這項技術的關鍵功能并未對大多數用戶開放，OpenAI選擇進行進一步的測試。這個關鍵功能允許用戶使用上傳的真人照片或視頻作為參考，生成全新的短視頻。盡管如此，OpenAI表示，只有部分用戶能體驗到這項功能，且在尚未調整完善“安全方法”之前，這項功能不會大規模推向市場。

漸進式開放：應對潛在的濫用風險

OpenAI在其博客中解釋道，利用真人照片或視頻作為“種子”生成視頻的能力，潛在的濫用風險不容忽視。為了更好地理解用戶的使用模式，OpenAI將采取漸進式的開放策略。

另外，OpenAI還強調，用戶生成的視頻不得用于展示真實人物的片段或圖像，且不能通過Sora的主頁功能進行分享。這一決定顯然是為了避免誤用和不當傳播，確保技術的安全性和道德性。

Sora負責人談挑戰

Sora的產品負責人Rohan Sahai在直播中表示：“我們面臨著巨大的壓力，因此，防止Sora被用于非法活動是我們的首要任務。但與此同時，我們也希望在創造性表達和防止濫用之間找到平衡。”他還提到：“我們清楚這將是一個持續的挑戰，我們可能無法做到完美，剛開始時我們會采取保守策略，如果我們的審核機制存在不足，請隨時給我們反饋。

過濾器與嚴格的內容控制措施

為了避免技術被濫用，OpenAI宣布將采取多項措施，其中之一是Sora內置的過濾器，能檢測視頻是否涉及未滿18歲的人物。OpenAI還表示，將對涉及性、暴力或自殘等敏感內容的生成視頻實行更嚴格的審核標準，確保這些內容不被發布。

所有通過Sora生成的視頻都將包含元數據，特別是符合C2PA標準的來源信息。盡管這些元數據可以被刪除，OpenAI依然希望通過它們，幫助支持C2PA的平臺快速識別視頻是否來自Sora。

打擊版權侵權：即時重寫功能防止模仿創作者風格

為防止版權糾紛，OpenAI還采取了“即時重寫”措施，阻止用戶以真人創作者的風格生成視頻。公司在聲明中指出：“我們增加了提示重寫功能，當用戶嘗試生成類似在世藝術家的風格時，系統會自動觸發這一功能。” OpenAI還強調，隨著對創意社區使用Sora的理解不斷深入，他們會采取更加謹慎的策略。盡管模仿他人風格是創作的一部分，但公司意識到一些創作者可能對這一點有所顧慮。

Sora的數據來源之謎

在訓練數據方面，OpenAI透露，Sora是通過“多樣化的數據集”開發的，這些數據集包括公開數據、與數據供應商的合作獲得的專有數據以及公司內部開發的自定義數據集。今年早些時候，OpenAI前首席技術官Mira Murati在談到Sora的訓練時，未完全否認其可能涉及使用YouTube上的短視頻數據，而這似乎違反了谷歌的使用政策。

目前，OpenAI的視頻生成工具Sora已對ChatGPT Pro和Plus訂閱用戶開放，但僅限于部分國家的用戶使用。