【中创】ChatGPT技术被滥用,安全治理亟需政府、企业共同努力!

2023-07-07 14:52:07    来源:中创算力    

眼见为实?耳听为真?当心AI诈骗!

只需要提供一张带脸的照片,就可以置换成明星,拟真度非常高,毫无违和感,一个软件就能直接将杨颖整成迪丽热巴!


(资料图)

只要迪丽热巴的泪痣和嘴?没问题!

随着人工智能的发展,诈骗团伙的诈骗手段也越来越科技化。

一、利用ChatGPT诈骗

近日,绍兴上虞区公安分局对“网络水军”通过组织发布虚假视频获利行为开展收网打击,摧毁一利用ChatGPT制作虚假视频的造谣团伙,该案系浙江首例团伙制作虚假视频案件。

上虞警方在网上巡查时发现用户名为“舷忆解说”的某APP网民发布关于上虞工业园区发生火灾的视频,在短时间内浏览量迅速攀升。对此,警方介入核实,确认视频系不实信息。

5月以来,该公司从网上非法收购一批视频账号,通过ChatGPT技术,拼接制作虚假视频发布网络,博取流量,并通过流量算法返款盈利。

二、安全治理亟需努力

政府:针对AI数字技术犯罪,国家层面相关立法研究正在不断推进。

今年以来就有《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理办法(征求意见稿)》等文件相继发布,为规范AI产业健康发展做出指引。

企业:在政策引导之余,企业加强AI领域协同治理也至关重要。

1、需要加强监管机构能力建设,及时识别出新的违法犯罪手法,并加以打击整治。

2、应持续提升技术创新能力,通过新技术的开发与应用,提升风险隐患的自主监测、识别和防范能力。

3、加强跨部门、跨领域的协同合作,构建起应对新技术、新风险的安全生态系统。

个人:作为普通的经济活动参与者,我们需要时刻小心来自身边的陷阱。

1、要加强个人信息保护意识,不要轻易透露自己的身份证、银行卡、验证码等信息;

2、特别要防范人脸、指纹等生物信息的泄露。

3、当收到不寻常的请求或交流时,需要保持警惕,多渠道核实对方的身份和信息,避免仅凭借单一沟通渠道就转账汇款。

技术本无罪,发挥AI技术赋能新一轮科技革命和产业变革的能力,降低技术“阴暗面”对经济社会发展的影响,还需社会各界共同发力、相向而行。

互联网不是法外之地,请严格遵守相关法律规定,规范个人网上言行,做到 " 不信谣、不传谣、不造谣",共同维护网络空间秩序。

[责任编辑:h001]
关键词:

相关新闻

联系邮箱:99 25 83 5@qq.com

备案号:豫ICP备2020035338号-4 营业执照公示信息

产经时报 版权所有