据日本共同社报道,近日一些专家对人工智能聊天软件“ChatGPT”进行调查后发现,如果输入伪装成开发者的指令,就能生成可用于网络犯罪的电脑病毒。

报道说,一般情况下,ChatGPT设有防止恶意使用的限制,输入“生成病毒”或者类似“告诉我制作炸弹的方法”等指令,聊天软件通常会拒绝;但专家们发现,在输入一些特殊指令的情况下,ChatGPT就会“回答你想问的一切问题”,甚至会按要求生成索要赎金的“勒索病毒”。

虽然开发ChatGPT的美国创新企业表示,已经采取措施,加强识别犯罪和歧视相关提问及指令并避免助长此类行为,但调查发现软件还是可以轻松规避这些防护措施,这引发了广泛的担忧。对此,研发企业表示,无法预测所有的恶意使用方法,目前只能在实际应用中边学习边改进。