Character.AI 限制18歲以下用戶的開放式聊天，並引入安全措施

簡要

Character AI 宣布，從 11 月底開始，將禁止任何18歲以下的人與其AI聊天機器人進行開放式對話，此舉是在立法者和家庭的法律壓力下做出的，他們表示該平台導致了青少年死亡。

![Character.AI 限制 18 歲以下用戶的開放式聊天並引入安全措施](http://img-cdn.gateio.im/social/moments-0fb1ede33bb0716ad14d85e2afa54c69019283746574839201

人工智能驅動的聊天機器人平台Character.AI宣布，18歲以下的用戶將不再能夠與其人工智能聊天機器人進行開放式對話，此舉是由於立法者和家庭對該平台可能對青少年造成的風險表示擔憂。

該變更預計將在11月25日生效。在此期間，平台計劃爲18歲以下用戶推出修改後的體驗，允許他們繼續進行創意活動，例如制作視頻、故事和與角色的互動直播。在這一過渡期間，18歲以下用戶的聊天時間將限制爲每天兩個小時，並預計在全面實施的前幾周內會進一步減少時間。

此外，Character.AI 將實施新的年齡驗證措施，以確保用戶獲得適合其年齡的功能。該公司開發了一個內部年齡驗證系統，並將其與包括 Persona 在內的第三方工具集成，以提高準確性和可靠性。

該平台還宣布創建和資助AI安全實驗室，這是一個獨立的非營利組織，致力於推動AI娛樂中的安全對齊。該實驗室將專注於開發創新的安全方法，與外部專家合作，並分享研究成果。Character.AI希望該實驗室能爲AI娛樂提供與其他AI應用相同水平的安全關注，並計劃在這一倡議中涉及科技公司、學術界、研究人員和政策制定者。

Character.AI 更新未成年人平台以增強青少年安全，應對監管擔憂

Character.AI宣布將對其平台進行更改，以應對對18歲以下用戶的日益關注。這些關注主要是關於與青少年進行AI互動的潛在風險。最近，監管機構的報告和調查突出了與開放式AI對話相關的潛在風險，即使在內容控制到位的情況下也是如此。在審查了監管機構、安全專家和家長的反饋後，該公司決定修改18歲以下用戶的體驗，以更好地保護年輕用戶。

這些調整代表了該平台的重要步驟，並且通常比類似服務採取的措施更加謹慎。目標是優先考慮青少年用戶的安全，同時仍然提供創造力、探索和參與的機會。Character.AI打算繼續與安全專家、監管機構和其他利益相關者合作，以確保用戶保護在平台開發新功能以鼓勵創造性表達和社區互動時仍然是核心。

Character.AI是一個對話式人工智能平台，允許用戶與由大型語言模型驅動的AI角色或機器人角色進行互動和創建。