全球观天下!AI艺术作品引发虚假信息担忧,微软采取措施保护用户

时间:2023-05-29 16:55:02       来源:IT采购网


(资料图)

IT采购网5月24日消息,微软近期推出了一系列基于人工智能的软件和服务,旨在帮助用户创作艺术作品和各种项目。其中包括Bing ImageCreator和Microsoft Designer。Bing ImageCreator于三月份正式发布,它利用简单的文字提示,让用户能够通过AI生成艺术作品。而在四月份,微软推出了MicrosoftDesigner的完整公测版,它允许用户利用文字提示和AI模型创建博客文章、网站等内容。

然而,随着人工智能生成的艺术作品日益普及,人们也开始担心这些作品可能被用于恶意目的,从而引发虚假信息的传播。尤其是随着越来越多的“深度伪造”图像和视频的出现,微软决定采取主动措施来确保其AI生成的艺术作品可以被辨别出来。在今天的微软Build2023开发者大会上,该公司宣布将在未来几个月内增加一项功能,以让任何人都能够辨别Bing Image Creator和MicrosoftDesigner生成的图像或视频片段是否由AI生成。

据IT采购网了解,这项技术使用密码学方法对AI生成的内容进行标记和签名,并附上与其来源相关的元数据信息。微软一直以来都在验证内容来源的方法研发方面处于领先地位,并且还与其他机构共同创立了ProjectOrigin和内容来源和真实性联盟(C2PA)标准机构。微软的媒体来源验证将按照C2PA标准对生成的内容进行签名和验证。

微软表示,这项功能将适用于Bing Image Creator和MicrosoftDesigner支持的“主要图像和视频格式”,尽管没有具体公布支持的格式。此前有报道称,微软本月早些时候宣布Bing ImageCreator已经支持100多种语言,并且该程序已经生成了超过2亿张图像。微软的这一举措显示出他们对保护用户免受虚假信息影响的承诺。

关键词: