外滩大会参会规模创新高 人们都在关注如何防止AI作恶

9月7日,2024 Inclusion·外滩大会正式闭幕。事实上,这一天下午,距离大会闭幕几个小时前,仍有观众在排队入场。官方数据显示,本届大会共吸引了5.2万人现场参会,无论是参会规模还是国际嘉宾的数量,均创下了历史新高。除了年轻人,记者注意到,观众队伍中还有不少老人、小孩。

本届外滩大会以“科技·创造可持续未来”为主题,包括36场开放见解论坛、10多场创新者舞台、2场AI创新赛事、1场10000平方米的展览以及1场绿色生活节和1场科技人才招聘会。据统计,三天时间内,有30余项AI新成果在本届外滩大会发布,包括蚂蚁AI生活管家“支小宝”、AI金融管家“蚂小财”,AI健康管家等。

10000平方米的展览场地汇集了众多企业参展,记者观察到,相比往年,准备各类装备体验、互动的厂商越来越多了,许多展台前,观众为参与体验排起长队。重视人文性,成为本届外滩大会的一大特点。除了开幕式上24岁的独臂男孩周键借智能仿生手演奏钢琴的动人瞬间,在外滩大会的展区,借助设备观众可以体验将脑电波以花朵的形式可视化,让瞬间的情绪形成纪念。还有可实现“拥抱传递”的设备,穿戴上内嵌人造肌肉纤维的特制背心,当另一个人拥抱装有压力传感器的模型时,体验者便能感受到模拟其声控、触觉反馈和温度调节等多种感官元素的“远程拥抱”。

在这一年的外滩大会上,如何让“技术向善”的讨论和研发更加被业界重视。

AI医疗受关注

为期三天的展览中,AI医疗的相关产品、企业展台总有着最多的人流量,“爸妈记忆力下降了怎么办?”“AI如何辅助癌症筛查?”这些问题让不少观众不自觉就迈入了相关展区,不断有老人加入脑健康检测,有年轻人加入脑电波的“画图”。

“和去年相比,今年外滩大会AI人工智能的份额感觉更高了,而且不是像之前傻乎乎的那种,今年的很多应用是真的有用的,明显能感觉到算法提升了很多,比如说面部识别功能或者语音交互功能,都感觉上升了一个档次,效果变好了,所以大家体验的热情也高。”一位参会的展商对记者表示。

来不及喝口水,达摩院AI医疗展台的工作人员就迎来了下一位咨询的观众,今年的外滩大会上,达摩院医疗AI实验室展出了其AI医学影像分析产品,借助AI技术,这项产品能够从平扫CT中进行胰腺癌、食管癌、肠癌、胃癌等八大癌症及一系列慢性病的筛查,吸引了不少观众。

展台的工作人员告诉记者,通过AI识别,这项产品能够在肝癌、肺癌等癌症筛查中达到90%以上的准确率,提升医生的工作效率,补足一些医疗资源不均衡带来的问题。

“其实这项技术主要是面向B端的,为医生服务,客户更多是医院、体验机构、保险公司、公益组织以及软件厂商之类的,但这两天很多个人也非常感兴趣。”上述工作人员表示。尽管许多AI医疗产品并未直接面向C端用户,但外滩大会的观众们对AI医疗将如何改变疾病的诊治感到好奇。

博斯腾科技的展台则吸引到了大量的老年观众,许多老人纷纷拿出手机通过支付宝“碰一碰”进行答题,检测自己得阿尔兹海默病的风险指数。展区的工作人员介绍,通过许多数据、资料的支撑,这款产品能够通过答题测验、语音交互、动作识别等方式检测阿尔兹海默病,并通过大模型生成用户专属的脑健康训练计划。

“我们的产品2020年成型,但借助摄像头的动态识别功能是今年刚推出的,主要是借力于AI功能的发达,包括训练方案的推荐,也的确在大模型出现后智能了很多。”该展区的工作人员告诉记者。随着AI的发展,更多AI医疗产品的“进化”值得期待。

需要强调的是,目前,许多AI医疗产品的诊疗效果仍缺乏公开数据或第三方权威机构的验证,相关展台的工作人员也均表示AI医疗产品无法完全代替医生诊疗需求,以辅助作用为主。不过,AI在医疗问题中的应用的确被业界期待。

不少大厂也在押注AI医疗赛道。外滩大会上,支付宝发布AI应用新产品“AI健康管家”,为用户提供找医生、读报告、陪看诊、问医保、管健康等30多项AI健康服务。百川智能创始人王小川则介绍,百川智能将重点在大医疗AI领域做投入,从儿科医生、全科医生两个切入点发力,希望在明年实现医疗的低成本和可及性,减少医院的挤兑现象。

全国政协常委周汉民在外滩大会的一场论坛中表示,随着人工智能等新技术的不断发展和应用,医疗产业正迎来一场深刻的变革。据他观察,从最初的影像诊断、辅助诊疗、基因检测,到近年来的药物发现、临床试验、健康管理等,人工智能在提高精准度与效率、个性化治疗、数据处理等方面具备显著优势。他指出,医疗健康与人工智能的融合还延伸到了中医领域。

谈及人工智能在医疗产业的应用情况,周汉民表示,人工智能在医疗健康产业的应用应着力提高精准性、适用性和安全性,此外,还需关注人工智能的引入是否会导致医护人员技能萎缩、对人工智能的信任的误判以及信息超载。

以AI对抗AI

在期待技术带来美好生活的同时,如何预防技术“作恶”也成为外滩大会讨论的热点话题。

今年的外滩大会上,举办了包括“afac2024金融智能创新大赛”和“全球Deepfake攻防挑战赛”两场子赛事在内的AI创新大赛,由于近日韩国曝出“Deepfake”(深度伪造技术)事件,被认为是采用新犯罪手段的“N号房”案件重现,以AI对抗AI,Deepfake攻防挑战赛尤其受到观众的挑战。

事实上,随着AI技术的发展,Deepfake滋生欺诈等黑色产业链,AI换脸欺诈带来的经济财产损失、名誉受损等事件正在成为全球挑战。

在外滩大会展区,许多观众现场拍照,然后利用Deepfake换脸模型和算法,通过视频活化、微笑和眼镜模版对观众的真实照片进行换脸,亲身感受了Deepfake的逼真。

而在外滩大会AI创新赛·全球Deepfake攻防挑战赛的表演赛上,观众更是为AI识别AIGC伪造图片感到激动。在这场表演赛中,主持人拿出了9张玛丽莲梦露等女星的照片,其中2张是AIGC伪造的,选手用自己的参赛模型给出每张图片的伪造概率值,并对概率值最高的2张照片与正确答案进行比对。最终,两支参赛队伍的模型都找到了正确答案。

在后续的互动中,一个有趣的现象是,人类肉眼能够看出“一眼假”的伪造图片,AI可能识别不出,一些肉眼真假难辨的图片,AI反而能识别。新加坡科技研究局周天異教授分析,人类在判断图像是否伪造会依赖直觉和逻辑,一些人类一眼便知的问题AI无法联系相关背景、情形无法识别,而一些难以识别的图片,AI一丝不苟、勤勤恳恳地完成人类指令的工作模式反而能找出问题。他表示,相比“一眼假”的图片,恰恰是这些难以识别的图片往往给人类带来更大损失,因此,用AI应对Deepfake有着重要意义。

“从我们现在看到的数据来看,我们叫Deepfake的攻击也好,AIGC的生成伪造,今年的攻击量比去年大概增加了10倍,去年攻击的浓度大概是1%,今年就是10%。整个风险其实是呈指数级上升的情况,这不仅仅是在中国,在韩国,在菲律宾、印尼等国家都有类似的情况发生。”外滩大会AI创新赛·全球Deepfake攻防挑战赛出题人、ZOLOZ技术总监姚伟斌表示,10%的浓度意味着业界发现线上的流量有10%是Deepfake的流量,随着AIGC的发展,生成的成本会越来越低,效率越来越高,明年可能不是20%,可能是50%,这是一个必须重视的威胁。

更多引导AI向善的观点也在外滩大会被讨论,姚伟斌坦言,研发检测算法,只是遏制Deepfake技术滥用的方式之一。这种方式是相对滞后的。如果要从根源上防范欺诈行为,姚伟斌认为应在标准和立法角度,要求给A IGC 内容建立通用标识,比如每一张AIGC生成的视频或图片都在文件信息里带一个签名或水印,这样平台管理更有依据,也能让AIGC 可以更可信。

“让人工智能帮助人弹钢琴,而不是作恶。”是本届外滩大会反复强调的价值观。上海市数据科学重点实验室主任肖仰华表示,AI的大规模滥用是可能损害人之为人的本性的。要有所为有所不为,但凡伤害人之为人之本性的AI应用,我们要谨慎,要加以限制。为此,“我们要重视技术治理,并将治理提前考虑,做到未雨绸缪。”

浙江强脑科技创始人兼CEO韩璧丞则表示,AI伦理委员会的存在非常重要。技术前进的时候,更应该关注“走的慢”的人。“当一个足以改变世界的技术出现时,我们先用它来帮助最需要的人”。

  • 声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
  • 本文地址:https://srwj168.com.cn/jinrong/22080.html
设200万元奖金池! 2024华为开发者大赛走进佛山禅城
畅销TOP10排行出炉 全球哪款手机卖得最好