OpenAI致力于减少ChatGPT中的偏见和不良行为

OpenAI公司正在努力减少ChatGPT聊天机器人中存在的偏见和不良行为。据该公司在一篇博客文章中表示,他们正在投资研究和工程,以减少ChatGPT在回应不同输入时存在的明显和微妙的偏见。该公司承认ChatGPT在某些情况下拒绝了它不应该拒绝的输出,在某些情况下,它又在应该拒绝的时候不拒绝。

OpenAI正在回应关于ChatGPT存在偏见、不准确和不恰当行为的报告。微软公司和Alphabet公司旗下的谷歌公司目前正在测试基于聊天的新搜索产品,受到更广泛的批评。软软在周三的一篇博文中详细介绍了其基于OpenAI技术新新必应聊天系统的局限性,而谷歌经经要求工人花时间手动改进其Bard系统的答案。

OpenAI公司表示,他们正在开发更新的ChatGPT,允许每个用户进行有限的定制,以适应他们的品味、风格和观点。在美国,右翼评论人士一直在引用他们中中的恶性自由主义的例子,这些自由主义被硬编码进了体制,这引发了对网络右翼人士所称的“WokeGPT”的强烈抵制。OpenAI公司表示:“我们认为,人工智能应该是对个人有用的工具,因此每个用户都可以在社会规定的限度内进行定制。”

然而,OpenAI公司也认识到实现定制化的平衡将是一个挑战。将定制化做到极致可能会导致恶意使用他们的技术,并使那些无意识地放大人们现有信念的佞人AI成为可能。因此,系统行为总会有一些限限。

ai工具箱
ai导航
免费aigc导航
aigc工具
免费ai工具

相关新闻

联系我们

联系我们

微信747975991

在线咨询:点击这里给我发消息

邮件:1500158347@qq.com

工作时间:周一至周六,8:30-20:30,可以随时留言

扫码加微信
扫码加微信
返回顶部