OpenAI表示,ChatGPT-4将内容审核时间从几个月缩短到几小时
OpenAI said ChatGPT-4 could reduce content moderation time from months to hours.
OpenAI,ChatGPT背后的开发者,正在倡导在内容审核中使用人工智能(AI),并宣称其有潜力提高社交媒体平台的运营效率,加快处理具有挑战性任务的速度。
该公司表示,其最新的GPT-4 AI模型可以将内容审核的时间从数月缩短到数小时,确保标签的一致性得到改善。
对于Facebook母公司Meta等社交媒体公司来说,内容审核是具有挑战性的,需要全球协调众多审核员的工作,以防止用户访问儿童色情和高度暴力的内容等有害材料。
“(内容审核的)过程本质上是缓慢的,可能给人工审核员带来心理压力。通过这个系统,开发和定制内容政策的过程从数月缩短到数小时。”
根据声明,OpenAI正在积极研究利用大型语言模型(LLM)来解决这些问题。其语言模型,如GPT-4,使其适合内容审核,因为它们可以根据政策指南做出审核决策。
ChatGPT-4的预测可以优化处理大量数据的较小模型。这个概念在多个方面改善了内容审核,包括标签的一致性、迅速的反馈回路和减轻心理负担。
声明强调,OpenAI目前正在努力提高GPT-4的预测准确性。正在探索的一个途径是整合思维链或自我批评。此外,它还在试验通过借鉴宪法AI的方法来识别不熟悉的风险。
相关:中国的新AI监管开始生效
OpenAI的目标是利用模型根据广泛的伤害描述来检测潜在有害内容。从这些努力中获得的见解将有助于完善当前的内容政策或在未知风险领域制定新的政策。
2021年8月15日,OpenAI首席执行官Sam Altman澄清称,该公司不使用用户生成的数据训练其AI模型。
将本文章收藏为NFT,以保留历史时刻,并展示对加密货币领域独立新闻报道的支持。
杂志:AI视觉:苹果开发口袋AI,深度假音乐交易,催眠GPT-4
We will continue to update 算娘; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles