速覽行業動態

1. Anthropic：應從身體、心理等多維度評估 AI 危害

2. 谷歌因 AI 搜索遭反壟斷指控

3. 黃仁勛游說日本，呼吁增加電力以支持AI 行業發展

4. 怒賺 3900 萬，大學生因開發“AI 作弊神器”被開除

5. Anthropic：Claude 存在“主導”“不道德”表達

6. Meta利用AI識別社交媒體年齡造假

7. 谷歌發布全新混合量子模擬方法

8. 羅永浩創業公司細紅線招聘多位算法工程師

1. Anthropic：應從身體、心理等多維度評估 AI 危害

在最新博客中，Anthropic 分享了評估和減輕 AI 系統危害的方法。他們在文章中寫道，隨著 AI 能力的提升，潛在危害不容忽視，從生物威脅到兒童安全等問題凸顯。他們對現有政策進行了補充，從身體、心理等多維度評估危害，綜合考慮多種因素確定其現實意義。他們還通過制定政策、評估檢測等措施管理風險，比如在 Computer Use 和模型響應方面采取優化手段。

2. 谷歌因 AI 搜索遭反壟斷指控

路透社消息稱，美國司法部對谷歌提起反壟斷訴訟，指控其通過 AI 產品進一步鞏固在線搜索領域的壟斷地位。檢方要求法院命令谷歌剝離 Chrome 瀏覽器，并采取其他措施以恢復市場競爭。此案被比作歷史上的 AT&T 和標準石油公司拆分案，可能對互聯網格局產生深遠影響。谷歌表示，政府的提議過于極端，計劃提出上訴。

3. 黃仁勛游說日本，呼吁增加電力以支持AI 行業發展

4 月 21 日，日本首相石破茂與英偉達 CEO 黃仁勛會面。黃仁勛表示，日本憑借其在機器人技術和工業制造領域的全球領先地位，具備發展 AI 的獨特優勢。他指出，日本亟需加快能源基礎設施建設，以應對 AI 產業激增的電力需求。

4. 怒賺 3900 萬，大學生因開發“AI 作弊神器”被開除

哥倫比亞大學學生 Chungin “Roy” Lee 因開發面試作弊工具遭學校停學。如今，他卻憑借相關技術創立的公司 Cluely 成功籌集 530 萬美元種子資金。據悉，Cluely 的 AI 工具不僅能在軟件工程師面試中作弊，還試圖將 “作弊” 拓展至各類場景。該工具引發了廣泛爭議，盡管公司宣稱有亮眼收入，但這種公然鼓勵作弊的行為，嚴重違背學術和商業道德，引發各界對 AI 技術正確使用及監管的思考。

5. Anthropic：Claude 存在“主導”“不道德”表達

在一項最新研究成果中，Anthropic 探索了現實世界語言模型交互中的價值觀。他們通過隱私保護系統分析了 700000 條 Claude 對話，并篩選出約 308210 條進行研究。結果顯示，Claude 總體符合預期，但存在越獄對話產生的異常價值觀。同時，Claude 的價值觀表達受上下文影響，會對用戶價值觀有不同回應。該研究雖有定義模糊、模型驅動分類有偏差的問題，但為評估模型與開發者價值觀的契合度提供了新方法。

6. Meta利用AI識別社交媒體年齡造假

Meta 加大 Instagram 平臺 AI 年齡檢測力度。自 2024 年啟用該技術后，如今將主動篩查生日信息，若發現成年人生日但疑似青少年的賬戶，便自動調整為更嚴格的青少年設置，且用戶有權恢復原設置。此舉源于各方對青少年網絡安全的關注，此前歐盟已展開調查，美國州檢察長也曾起訴。不過，科技公司間在兒童網絡安全責任劃分上仍存分歧。

7. 谷歌發布全新混合量子模擬方法

谷歌發布了一種全新的模擬-數字混合量子模擬方法，可在保持速度的同時增強可控制性，顛覆了傳統量子計算的模擬方法。在研究量子熱化和臨界現象方面實現了重大突破。傳統的量子模擬主要面臨兩大難題：靈活性差，純數字的量子模擬效率非常慢，經常會受到噪聲的干擾；速度快卻無法控制，速度上來了卻無法精準控制所有粒子的相互作用。而谷歌的混合模擬方法吸取了這兩種方法的優點，在保證模擬速度的前提下，還增強了可控性。

8. 羅永浩創業公司細紅線招聘多位算法工程師

據《科創板日報》報道，羅永浩日前發博為創業公司細紅線招聘多位算法、研發工程師。此前據 XR Vision 報道，羅永浩旗下細紅線科技早在 2024 年放棄 AR 智能眼鏡類產品研發，繼而轉向為 AI 智能硬件和 AI 大模型研發。但 2025 年年初在 AI 智能硬件完成之后，整個硬件團隊已被全部裁撤，只留下 20 多個軟件工程師負責 AI 軟件相關產品的研發和打磨，繼續完成軟硬件一體的產品在海外上市和銷售。

整理：錦鯉

如需轉載或投稿，請直接在公眾號內留言