信息资讯网,打造专业的新闻资讯网站!

帮助中心 广告联系

信息资讯网

热门关键词: as  www.ymwears.cn  43  新闻  乐技

从ChatGPT的网络风险看人工智能下的保险风控新挑战

来源:[db:来源] 作者:新闻资讯网 人气: 发布时间:2024-07-13
摘要:近几个月,关于人工智能聊天机器人ChatGPT的热议愈演愈烈,通过自然语言处理, ChatGPT不仅可以理解命令和读取代码,还可以提供实际的见解和补救建议。强大的信息数据处理能力在大幅提高工作效率的同时,也带来了难以预料的风险。

(原标题:从ChatGPT的网络风险看人工智能下的保险风控新挑战)

文/张晋

ChatGPT风险引关注

近几个月,关于人工智能聊天机器人ChatGPT的热议愈演愈烈,通过自然语言处理, ChatGPT不仅可以理解命令和读取代码,还可以提供实际的见解和补救建议。强大的信息数据处理能力在大幅提高工作效率的同时,也带来了难以预料的风险。先是马斯克、图灵奖得主等一众大佬签署公开信、联名呼吁暂停大型AI研究。之后,欧洲执法机构和消费者保护组织也先后拉响对ChatGPT潜在危害的警报。意大利个人数据保护局也宣布,暂时禁止使用ChatGPT,并表示已对开发该产品的OpenAI公司展开调查。韩国三星公司更是要求员工向 ChatGPT 提问的上传容量限制在 1024 字节以内。

上述一系列事件的起因可能是ChatGPT发生了数据泄露事件,例如三星声称,在引入 ChatGPT的不到20天内,发生了 3 起机密数据泄漏事件,其中涉及三星半导体设备测量资料、产品良率等信息。此外,OpenAI对使用者并未设置严格的门槛,任何人都可以使用ChatGPT,有监管者担心其内容会对未成年产生不良诱导。

国外有研究报告表明,已经出现了网络犯罪分子使用OpenAI开发恶意工具的实例。事实上,许多使用 OpenAI 的网络犯罪分子根本没有开发技能。但是通过ChatGPT,他们或许能够轻而易举的获得篡改程序、泄露数据、恶意攻击的开发代码,甚至可以获取地下暗网的加密货币价格,用于毒品、枪支武器等市场交易。

人工智能可以用来尝试识别新的风险威胁对象,但技术本身也可能成为风险的来源。

AI的潜在风险

近年来随着数据质量和数量的极速增加,以机器学习(Machine Learning)为代表的AI技术被广泛应用在自然语言处理、视觉语音识别、多媒体处理等多个领域,与机械制造业、通信业、服务业深度融合。然而,在实际落地场景中,机器学习模型逐渐暴露出各种的不确定性,导致难以预知的风险。

机器学习范式下AI应用存在的结构性缺陷,这一缺陷可以说贯穿于AI全生命周期。通过数据污染、恶意样本攻击等方式对算法进行深层次攻击已经成为“常用手段”。除了这一类算法漏洞,隐私数据的暴露也带来不可忽视的风险。事实上,AI和机器学习系统比我们想象的更容易被愚弄,也就是人们经常吐槽的“人工智能变成人工智障”,具体来看,这其中包含“攻击风险”和“非攻击风险”。

攻击风险

“攻击风险”是指人为主动破坏人工智能学习规则的事件发生,包括窃取攻击、药饵攻击、闪避攻击、逆向攻击、模仿攻击等,导致窃取底层算法、扰乱系统、个人获利等。

例如,前不久全球最大轻博客app Tumblr宣布通过AI系统来识别和管控黄暴内容,就有用户将身体染成绿色,并添加猫头鹰图片以干扰人工智能对图片内容的识别,以此来逃逸平台审核。

有黑客曾在地下论坛中分享了如何在ChatGPT帮助下获得基于 Python 的窃取程序的代码,该窃取程序首先搜索常见的文件类型,并复制到 Temp 文件夹中任意文件夹,压缩后上传至FTP 服务器。这种行为可将任意文件复制到临时目录,压缩后通过 Web 发送至任何人、任何公司。

责任编辑:新闻资讯网

信息资讯网版权所有

新闻由机器选取每5分钟自动更新

QQ:1453123369