当地时间4月11日,OpenAI在官方发文称,该公司推出了一项漏洞赏金计划(Bug Bounty Program)。
OpenAI的使命是创建惠及所有人的人工智能系统。为此,我们在研究和工程方面进行了大量投资,以确保我们的人工智能系统安全可靠。然而,与任何复杂的技术一样,我们明白漏洞和缺陷可能会出现。
OpenAI认为,透明度和合作对于解决这一现实至关重要。这就是为什么我们邀请全球安全研究人员、道德黑客和技术爱好者来帮助我们识别和解决系统中的漏洞。
OpenAI漏洞奖励计划是我们表彰和奖励安全研究人员的宝贵见解的一种方式,他们为维护我们的技术和公司安全做出了贡献。我们邀请您报告您在我们的系统中发现的漏洞、错误或安全缺陷。通过分享您的发现,您将在使我们的技术对每个人都更安全方面发挥关键作用。
为了激励测试,作为我们的赞赏,OpenAI将根据报告问题的严重程度和影响提供现金奖励,我们的奖励范围从低严重性发现的200美元到特殊发现的2万美元(约14万元人民币)不等。
OpenAI发文:加强监管
4月6日凌晨,Open AI在官网发布了《Our approach to AI safety》,以确保安全、可靠地为全球用户提供ChatGPT服务。
Open AI表示,在发布任何新系统之前,我们会进行严格的测试,聘请外部专家进行反馈,通过人工反馈的强化学习等技术来改善模型的行为,并建立广泛的安全和监控系统。
Open AI认为,强大的人工智能系统应该接受严格的安全评估。需要进行监管以确保此类做法得到采纳,我们积极与政府就此类监管的最佳形式进行接触。
我们安全工作的一个关键重点是保护儿童。我们要求年满18岁或13岁以上的人必须获得父母批准才能使用我们的人工智能工具,并正在研究验证选项。
我们不允许我们的技术被用于生成仇恨、骚扰、暴力或成人内容等类别。与GPT-3.5相比,我们的最新模型GPT-4响应不允许内容请求的可能性降低了82%,我们已经建立了一个强大的系统来监控滥用情况。现在,ChatGPT-Plus用户可以使用GPT-4,我们希望随着时间的推移,更多的人可以使用它。
ChatGPT一度暂停Plus付费升级服务
4月5日,ChatGPT官网宣布,由于需求量过大,暂停Plus付费项目的购买。
这一情况在社交平台Reddit上引起讨论,有网友表示因为需求过高而关闭付费服务“一点也不奇怪,(和ChatGPT对话时)10%-15%的回复会出现网络错误情况,且回应速度比以前至少慢了2倍”。
也有不少网友将这一情况归咎为OpenAI人手不足。此前1月,该公司的首席执行官Sam Altman曾在推特上表示,该公司的总人数为375人,远远小于大型科技公司的员工数量。
《科创板日报》4月6日实测发现,OpenAI的ChatGPT已经恢复了Plus订阅服务,并可进入付费环节。
每日经济新闻综合Open AI官网、科创板日报
每日经济新闻