当地时间5月21日， 欧洲理事会批准了《人工智能法案》。
这是全球首部监管人工智能的法律 ，作为一项开创性的监管法，为人工智能技术制定了全面的规则。
遵循“基于风险”的考量
《人工智能法案》遵循“基于风险”的考量，这意味着对社会造成伤害的风险越高，规则就越严格。
新法律旨在促进私人和公共行为者在欧盟单一市场上开发和采用安全、值得信赖的人工智能系统，同时确保尊重欧盟公民的基本权利，刺激欧洲人工智能的投资和创新。
新法律根据风险对不同类型的人工智能进行分类。 低风险的人工智能系统将面临最低的透明度要求，而高风险的人工智能系统则必须满足严格的标准才能获准在欧盟使用。
高风险人工智能系统涵盖自动驾驶汽车或医疗设备，根据它们对公民的健康、安全和基本权利构成的风险进行评估。此外，高风险人工智能系统还包括人工智能在金融服务和教育领域的应用，这些领域的人工智能算法存在偏见的风险。
某些人工智能应用，如认知行为操纵和社交评分，因其不可接受的风险而被直接禁止。 立法还禁止将人工智能用于基于种族的预测性警务，以及根据种族、宗教或性取向等生物特征数据对个人进行分类的系统。
该法规还涉及通用人工智能（GPAI）模型。 不构成系统性风险的GPAI模型将遵守有限的透明度要求。但是，那些被认为有系统性风险的模型必须遵守更严格的规定。
为确保有效实施， 《人工智能法案》设立了多个管理机构 ，包括欧盟委员会内部的人工智能办公室，负责执行相关规则；一个由独立专家组成的科学小组，为执法活动提供支持；由成员国代表组成的人工智能委员会，就人工智能法案的一致应用提供建议；一个利益相关者咨询论坛，提供技术专业知识。
在违规处罚方面，违反《人工智能法案》的行为将被处以罚款，罚款额度为违规公司上一财政年度全球年营业额的一定百分比或预先确定的金额，以较高者为准。中小型企业(SME)和初创企业将面临相应比例的行政罚款。
新法规还要求，在公共服务部门部署高风险人工智能系统之前，各实体必须评估其对基本权利的影响。 该条例要求提高高风险人工智能系统开发和使用的透明度。这些系统以及使用它们的某些公共实体必须在欧盟高风险人工智能系统数据库中注册。情绪识别系统必须在用户使用此类系统时告知个人。
或为全球AI监管提供参照
欧盟委员会于2021年8月提交了人工智能法案提案，目的是保护公民免受这种新兴技术的危害。
近期，随着OpenAI的ChatGPT和谷歌聊天机器人Gemini等生成式人工智能的日益普及，人们对人工智能造成虚假信息和侵权的担忧在全球范围内加剧。
在经过多轮谈判和协商后，欧洲议会于今年3月批准了该法案。 欧洲议会和欧洲理事会是欧洲两大立法机构，目前这两大机构均已批准这项法案。
随后，欧洲议会议长和欧洲理事会主席将签署该立法法案。 该法案将在《欧盟官方公报》上公布，并在20天后生效。
新法规针对不同条款规定了具体的适用时间表：禁止行为将在生效6个月后适用；实践准则将在生效9个月后实施；通用人工智能的规则和管理将在生效12个月后生效；高风险系统的义务将在生效36个月后执行。
针对此次立法通过，比利时数字化大臣马修·米歇尔在周二（21日）的声明中表示：“人工智能法案的通过是欧盟的一个重要里程碑。”
欧洲理事会主席米歇尔称：“ 通过人工智能法案，欧洲强调了在处理新技术时信任、透明度和问责制的重要性，同时确保这种快速变化的技术能够蓬勃发展并促进欧洲创新。 ”
世界各地的机构都在寻求对AI技术进行更合理的监管，《人工智能法案》目前仅适用于欧盟法律范围内的领域，军事、国防和研究等用途除外。 不过，如果欧盟之外的人工智能系统供应商在欧盟内提供服务，同样适用于该法案。
一些观点认为， 《人工智能法案》或为人工智能监管制定全球标准。 一些主要AI公司也对此次欧洲立法表示关注。
直接受到影响的欧洲AI企业认为，新法案的影响有利有弊。 一些中小企业担心，法案会导致相关成本被转嫁给供应链下游开发和使用人工智能的公司，尤其是中小企业。
咨询人士建议，相关公司应开始进行初步评估，以确定它们是否受到《人工智能法案》的约束。在约束范围内的公司应开始考虑依据法案的相关要求，作出相应的部署。
欧盟通过芯片法案，芯片战争几时休？
欧盟通过芯片法案，对于已如一团乱麻的中美芯片战争，是会形成制衡区域稳定，还是更激烈的竞争？
文丨智驾网 黄华丹
自去年8月美国颁布芯片法案近一年后，欧盟芯片法案也将正式落地。
7月25日，欧盟理事会批准芯片法案，完成决策程序最后一步。在欧盟官方公报上公布后，法案将正式生效。
《欧洲芯片法案》于去年2月发布，计划动员430亿欧元公共和私人投资，其中33亿欧元来自欧盟预算，以鼓励芯片公司在欧盟设立工厂，提高欧洲芯片自制比重，降低对亚洲和美国的依赖。
回溯至2000年，欧洲在芯片生产中尚占有24%的份额，如今已下降至10%左右。而《欧洲芯片法案》的目标是将这一数字提升到20%。
作为最精细最复杂的科技产品，芯片关乎整个科技产业的发展。赢得半导体行业的话语权，也成为各国发展的重心。
从半导体发展史来看，关于芯片的战争，从未停过。
上世纪80年代的《美日半导体协议》遏制了彼时处于鼎盛时期的日本半导体产业，使美国取而代之成为全球半导体行业老大。
而2019年起美国对华为的制裁也导致华为如日中天的手机业务出现断层。
如今，车载芯片的短缺刚得到缓解，伴随人工智能的崛起，高性能GPU又成为产业争抢的目标。
“10月7日体现的新政策是：我们不仅不会允许中国在技术上取得任何进一步的发展，我们还将积极扭转他们目前的技术水平。”纽约时报的报道《这是一种“战争行为”：解码美国对华芯片封锁行动》一文中，作者亚历克斯·帕尔默援引华盛顿战略与国际研究中心人工智能和先进技术瓦德瓦尼中心主任格雷戈里·C·艾伦的观点称。
10月7日的新政指的是去年10月7日，美国商务部工业与安全局，即BIS，对《美国出口管制条例》进行了一系列修订，旨在限制中国获得先进计算芯片、开发和维护超级计算机以及制造先进半导体的能力。英伟达A100，H100芯片便在受限之列。
中美之间在半导体行业的争端已如一团乱麻，欧盟的加入，会让行业渐趋稳定，还是走向更激烈的竞争？
欧盟开启招兵买马
德勤的一份报告指出，过去几十年间，欧盟一直是芯片产业的净进口国，其消费约占全球芯片供应的20%，而制造业仅占9%。而这种趋势，并不会因芯片法案的刺激得到根本改变。
多年来全球产业分工细化的结果是，半导体行业在全球已形成基本的格局。
IC Insights发布的芯片市场研究报告显示，2021年总部在美国的设计公司产值全球占比68%，中国台湾占比21%，中国大陆占比9%。在全球半导体市场叱咤风云的英伟达、英特尔、AMD、高通等芯片巨头均为美国企业。而在制造领域，美国仅占12%，包括中国台湾、韩国在内的东亚则占据75%的份额。
中国是全球最大的芯片进口国和最大的芯片消费市场，中国海关统计数据显示，2021年，中国芯片进口数量超过6354.8亿块，金额超过4325.5亿美元。
而欧洲的优势，则在设备和细分领域芯片产品上。例如，在先进制程光刻机领域占据绝对优势的荷兰光刻机制造商ASML，以及以汽车芯片为长的英飞凌、恩智浦和意法半导体等企业。
欧洲同样希望在半导体产业拥有更大的影响力。这一信号也为欧洲吸引了包括台积电、英特尔在内的芯片巨头的关注。
6月18日，英特尔宣布将投资250亿美元在以色列建造新的半导体工厂，预计2027年开始运营。作为PC时代的半导体霸主，英特尔近年的挣扎亦很明显。消费电子的饱和，图形处理新市场上的落后，制造领域的不温不火，英特尔在寻求新突破的同时，也在加大投资。
除了积极响应美国芯片法案，此前，英特尔也曾宣布投资800亿欧元，在欧洲各地建立先进的半导体工厂和研究设施。
目前，英特尔已在爱尔兰和德国运营大型半导体工厂，后续还计划在波兰建立半导体生产和测试设施，在意大利建立半导体包装和装配厂，以及在法国和西班牙建立研究与发展中心。
台积电也在推进德国德累斯顿10亿欧元的半导体工厂项目。
彭博社报道称，德国政府计划向台积电提供50亿欧元支持其建造新厂，而英特尔也将为其德国生产基地获得德政府100亿欧元的补贴。
三星半导体业务部门负责人京庆雄最近访问了欧洲各地区，但三星尚未宣布任何建立半导体工厂的计划。据报道称，三星判断欧洲尚未准备好利用先进工艺的条件。
这是一场试图改变现有格局的补贴大战。如前所述，目前欧盟占优势的是成熟制程的汽车和工业芯片，但显然，欧盟并不满足于此。欧盟的雄心，是在尖端领域也能占据一席之地。
独自建立产业链并不现实
无论欧盟，还是中美，在当前语境下的诉求都是能建立起足以自给的完善产业链。但这绝非易事。
《解码》作者帕尔默援引白宫科技政策办公室前副主任贾森·马西尼的言论表示，要重建一个如今遍布全球的复杂供应链，其难度无异于复制整个人类文明。
ASML的光刻机，台积电的代工能力，设计先进制程芯片的EDA软件，以及顶尖的设计能力，历经多年打磨，尖端技术集中在有限的几家公司，分布在世界各地。取而代之非一朝一夕所能实现。
在芯片之争中，美国的痛点在于制造。美国仅占据制造环节12%的份额，而拥有台积电和三星两大代工巨头的东亚，占据了全世界75%的制造份额。
在美国的积极拉拢下，台积电赴美建厂。但日前，据《华尔街日报》报道，台积电计划在亚利桑那州设立的工厂由于人工短缺将推迟开工。
台积电董事长刘马克表示，亚利桑那州的建设因缺乏熟练工人而受到阻碍，公司可能不得不暂时从台湾引进经验丰富的技术人员。他表示，这将使其在美国开始大规模生产4纳米芯片的时间推迟到2025年。此前计划是2024年开始生产。
人才短缺是美国半导体产业面临的一大问题。
据路透社报道，根据半导体行业协会（SIA）和牛津经济研究院的一份研究报告，到2030年，美国半导体行业将面临约6.7万名工人的缺口。
预计到2030年，美国半导体行业所需的员工人数将从今年的约34.5万人增至46万人。但研究显示，以目前美国学生的毕业速度，美国将无法获得足够的合格工人来填补这一增长。
另一方面，来自中国的反制也将对美国半导体产业的发展形成障碍。
7月初，中国商务部、海关总署发布公告，决定自2023年8月1日起对镓和锗两种关键金属实行出口管制。镓、锗都是芯片制造的重要原材料，对于半导体、电信和可再生能源行业至关重要。而作为全球最大的稀土生产国，镓和锗这两种矿产，中国无论在储量还是出口上都占据着领先地位。
中国对这两种材料的出口管制使得其他国家不得不寻找替代资源。彭博社26日报道，美国计划在今年底前向美国或加拿大企业签署回收镓的合同，“重点从现有的其他产品废物流中回收镓”。
而此前，中国也以国家安全为由对美国最大存储芯片制造商美光科技的进口产品展开调查，并禁止中国大型企业向其购买产品。
同样的问题也存在于欧盟。
据普华永道旗下战略咨询公司思略特的研究，要实现在2030年芯片市占率翻倍的目标，欧洲还需要35万名员工。这是一个巨大的缺口。
而即便如台积电、三星等代工企业在欧盟与美国建厂，其高昂的成本也将使其产品在竞争力上处于落后地位。
此前，美政府就公开承认过在美生产成本较其他地区高出四到七成。而台湾《经济日报》社论认为，这应该还是刻意压低的数字。
马西尼认为，政治领导人与高管以为只要投入足够的资金与工程师，就能解决问题。但实际并非如此。政策的积极推动，大量公司的涌入，带来的除了产业的兴盛，可能还有贪腐，以及非专业企业趁机骗取政府资金，最终的结果很可能是数以亿计资金的浪费。
帕尔默则认为，中国是最有可能克服种种困难，实现产业链重建的国家。多方面的阻挠，很可能反而会刺激中国产业的发展。这也是去年美国发布芯片法案时国内的部分声音。
但对中国而言，重建整个产业链同样并非易事。
荷兰政府6月30日公布新的出口管制规定，9月1日后，ASML在向海外发运先进的浸润式DUV设备（即TWINSCAN NXT：2000i及后续推出的浸润式光刻系统）时也必须向荷兰政府申请出口许可证。此前，EUV已经受到管制。
根据光刻机的发展历程和光源，可分为紫外光源（UV）、深紫外光源（DUV）和极紫外光源（EUV）。一般而言，目前制造7nm及以下制程芯片需要EUV，14nm及以下制程则需要用到DUV。
这意味着荷兰将支持美国对中国的出口禁令。此前，日本已率先实施出口禁令，禁止对华出口23种半导体关键设备和原材料。
去年，美国便积极拉拢韩国、日本和中国台湾地区组成Chip 4联盟，力图将中国排除在产业链之外。而目前的发展趋势显然对中国并不友好。（详见：《中外芯片公司如何看“芯片法案”与EDA断供》）
出口管制下带来的是巨大的经济损失
竞争无可厚非，但互相压制的战争只会导致巨大的损失。
此前，《华尔街日报》报道，有知情人士称，出于对中国人工智能产业实力发展的担忧，美国正考虑对向中国出口人工智能芯片实施新的限制。这将成为去年10月发布的出口管制措施的补充。如果成真，将进一步削弱中国建设人工智能的能力。
此前，由于出口管制，英伟达被禁止向中国出口高性能GPU A100和H100。为此，英伟达特地为中国市场开发了性能稍打折扣的特供版A800和H800。
据财经杂志报道，A800与H800在算力上与A100和H100相同，但为符合出口管制要求降低了带宽，因而在处理相同AI任务所需时间会有所增加。
A800的带宽从A100的600GB/s降为400GB/s，H800的具体参数尚未公开，但据彭博社报道，其带宽只有H100（900GB/s）的约一半。而美国商务部对GPU出口规定的上限是：算力4800 TOPS，带宽600 GB/s。
据知情人士称，美国商务部正在考虑的新限制措施将使未经许可出口A800也成为不可能。
这也促使英特尔、高通和英伟达CEO对美国政府展开游说，反对其升级出口管制条款。
美国芯片行业贸易组织同样表示，美国政府进一步限制向中国销售先进半导体的措施可能会破坏政府对国内芯片制造的巨额投资。
美国芯片公司的态度是，政府应该仔细权衡出口限制的影响，因为在中国的销售支持了在美国的投资，并有助于资助其研发，维持技术优势。
英伟达首席财务官科莱特·克雷斯更是直言，“长远来看，禁止向中国出售我们的人工智能芯片将导致美国工业永久失去在全球最大市场之一竞争和领先的机会，并对我们未来的业务和发展产生影响。”
而对中国市场来说，目前尚没有芯片能替代英伟达GPU在大模型训练上的作用。芯片短缺，成为限制中国人工智能发展的主要瓶颈。
同样，自动驾驶行业对于数据处理的巨大需求也决定了其对GPU的
《芯片与科学法案》对人工智能意味着什么？是否会对中国高科技造成影响？
芯片与科学法案对人工智能意味着发展与打击并存，这可能会对我国高科技行业的发展造成负面影响。
一、芯片与科学法案对人工智能意味着一种发展与打击的扭曲状态
这对人工智能的发展既是一种鼓励，同时也是一种打击，从积极的角度出发，目前美国正在吸引更多的高科技企业回流美国，同时通过自己的技术回馈到美国的生产制造行业，最终促成人工智能行业的发展。从消极的角度出发，美国的这个投入了10,000亿美元的芯片法案，本身就是对其他国家高科技行业发展的打击，这对于世界来说都不是什么好事。
二、这会对中国高科技造成负面影响
这肯定会对我国的高科技发展造成影响，而且还是负面影响，芯片法案的原理就是通过鼓励美国的芯片企业回流来制裁我国的芯片行业发展。按照目前美国芯片企业已经掌握的技术来看，他们一旦从我国撤出去，这也就意味着我国可能短时间之内会出现芯片短缺的情况，这自然就会对高科技的发展造成负面影响，美国的芯片法案用心真的是歹毒至极。
三、目前美国的法案就是确立科技强权的体现，我们应该及时提升自己的技术
目前美国的这个芯片法案其实是确立其科技强权的底线，目前美国不仅已经把自己文明的外观全然撕破，而且根本就不管世界各国怎么谴责他们想怎么玩就怎么玩。芯片法案出台只会对美国产生积极影响，但是对世界各国尤其是我国等发展中大国来说，这就是一个歹毒至极的法案，按照这种国家层面的法案公布来说，我国其实也可以实施相应的对等制裁措施，更加需要注意的是各家公司一定要尽快提高自己科技水平。
评论|机器人热潮背后：工具的制造者，被他们的工具改造了
人工智能带来的是社会几何速度的变革，人类的将倍受挑战。 作者|维鹏编辑|卫诗婕有人调侃：人在退化，变得越来越像机器；而AI在进化，变得越来越像人。 的热潮下，我们正不断审视自己与机器的差异性，在社会里焦虑地寻找自己的位置。 人工智能所带来的挑战中，有许多问题的核心事关个人在未来的角色。 机器越来越的同时，人与人之间的矛盾也更重、更多了。 技术背后的人和公司逐渐走向前台，他们是如何运行、设计算法的，将会更多地曝光在大众视野里——为了多数人的安全感，以及赢得信任。 01机器人已成为这个时代变革的底层逻辑机器人一词最初来自1920年捷克作家卡雷尔·恰佩克所创作的科幻戏剧《罗梭的万能机器人》。 本意是强制劳动、奴隶的意思。 仅仅作为劳动力来使用，不被允许拥有意志与决策。 但历经一个世纪的科技发展，尤其是数字智能时代的到来，机器人已逐渐从一个自动化的物理实体，进化成一个能有自我感知、自我意识的物理——数据是它的血液，数据和人工智能赋予物理实体『生命』。 这是中国工程院院士李培根在一次演讲中的比喻。 在今天，机器人并不需要长得像人。 理论上，任何电器在AI的加持下都在升级成为机器人：洗碗机、洗衣机、烘干机、扫地机、智能音箱等都可以归为机器人。 实际上，全民开启机器人协作的场景已经悄然而至。 天眼查数据显示，2021年新增的机器人相关企业就超过10万家。 截至目前，我国有超过32万家机器人相关企业。 AI和机器人已成为包括中国在内，许多国家和地区的顶层战略。 大量的机器人谷、机器人产业园区，正在落地。 2021年12月28日，工信部、发改委、科技部、公安部等15个部门联合印发《机器人产业发展规划》。 规划提出，到2025年，中国将成为全球机器人技术创新策源地、高端制造集聚地和集成应用新高地，机器人产业营业收入年均增速超过20%。 一线投资机构、互联网巨头、甚至房地产公司纷纷重金投资入局。 埃森哲曾在《技术展望2021》里总结道，未来每个领军企业必须将自己视为机器人公司。 电动车品牌们已经声称自己是机器人公司。 马斯克曾在多次强调，特斯拉是一家人工智能机器人公司：同样，网络联合吉利推出新品牌集度，将在2022年推出首款概念车，定位汽车机器人。 人工智能机器人与自动驾驶汽车，在技术上具有相似性——都由电池提供能源、由电机驱动，软件部分基于人工智能技术。 这也解释了为什么差不多在同一个时间节点，电动车创业者都开始投身机器人行业，比如小鹏和特斯拉。 技术逻辑相通的背后，更在于人工智能技术的渗透。 在傅盛看来：在车间、仓库、餐厅、农场、医院、火灾现场我们生活中接触的大多数物品在到达我们之前，至少与机器人接触过一次。 不知不觉，你已经和人工智能机器人时时相伴了。 02人机协作的新时代，人类需要找到自身的独特性第一次工业革命起势时，机器代替了手工劳动。 工人恐惧机器会取代人类的工作，于是卢德运动发生了，人们想方设法去破坏织布机，试图去消灭。 几百年后，同样的恐惧依然存在。 电商巨头亚马逊最大的配货仓库有11万平方米，可容纳28个足球场。 过去，仓储工作人员需要在各个货架前来回奔走，按订单分拣商品，再打包送往下一站。 而在使用了仓储机器人kiva查找、搬运后，拣货到发货的时间从90分钟缩短到了15分钟。 无论是家用的各类机器人还是工厂里的机器人，往往都有特定的具体的目标，比如清洁、传送菜、测温等等。 机器人只要在某一项能力上比普通人强，就能造成人类的大规模失业。 不久前，一家房地产公司发布了一位虚拟机器人员工，主要负责账款催收，在的催办下，预付应收逾期单核销率超过90%，远高于人类。 得益于虚拟人员工美丽的外貌，员工对机器催办的抵触情绪大大降低。 在人工智能带来的失业风险面前，一些欧洲国家曾考虑每月给每人发1000美元。 2016年，瑞士将这一想法提交到全民公决。 77%的人反对每年得到2500美元的支票。 人们偏向于选择工作而不是施舍。 每一次工业革命，都伴随着一个重要的议题：人类思考自己该在快速演变的社会中扮演什么角色，如何找到自己的位置。 《机器人时代：技术、工作与经济的未来》一书指出：信息技术的触角将延伸到经济社会生活的每一个角落。 在以往的技术革命中，在某个部门被机器替代的人类可以转移到其他部门，但是人工智能可以应用于几乎所有部门、任何角落，任何人都无法回避。 这一次，人类的倍受挑战。 在少部分人搭建的人工智能系统面前，大多数人显得无力。 一个可以被顶替的人，系统并不会在意他何去何从。 MIT与宝马合作的研究发现，合作的比或者的团队在生产力方面高出85%。 阿里研究院崔瀚文在文章中表示，人工智能带来的是社会几何速度的变革，这个速度会超过互联网速度的变革。 未来，人与机器之间的配合，将成为各行业发展的关键。 因此，人工智能的崛起强烈冲击着目前的教育和社会体系。 据工信部调研统计，我国人工智能产业发展与人才供需比为1：10，预计到2030年，人工智能人才缺口将达到500万，除了人工智能人才供给顶端的前沿理论研究人才以及终端的技术应用和科技转化人才之外，最大的缺口在于底座面向产业行业的工程应用型人才。 响应国务院在2017年提出的的号召，一些中学已经设立了人工智能选修课。 比如人大附中，其人工智能课程体系就涵盖机器人、数据挖掘、计算机视觉、无人驾驶等20多门课。 13位专职教师组成的师资队伍，大多毕业于计算机、自动控制、机器人等专业，其中7人是博士。 尽管近年来，人工智能专业设置呈现出井喷式的增长，但仍未形成规模效应：计算机、统计学、数学等专业毕业生成为人才。 尤为紧迫的是，我国人工智能学科的基础研究与美国存在较大差距，面临三方面问题，即顶尖高校人工智能研究、普通高校人工智能建设、人工智能成果。 03不是人与机器的游戏，而是人与人的较量《半月谈》评论，技术越精进壮大，其身后的阴影也会随之扩张蔓延。 普京此前曾称赞人工智能是未来世界运转的基石。 最初，是不是应该被叫做人工智能，经历过激烈的讨论。 1956年，在达特茅斯学院举办的一场研讨会上，一派学者认为该把这个新事物命名为，另一派学者认为该叫作。 支持后者的人觉得，这样更有市场价值。 从此，人们总在担心机器会不会消灭人类，这种顾虑确实为电影、文学市场带去了可观的利润。 对此，控制论之父诺伯特·维纳在《人对人的利用》中写道，社会面临的危险并不源于机器而是源于制造它们的人类。 电影《机械公敌》2018年2月，韩国科学技术院曾开设人工智能武器实验室，来研发所谓的，消息一出便引发广泛抵制。 当年4月4日，来自全球28个国家及地区的50余名顶尖人工智能专家宣布，联合抵制KAIST，并终止与该院的一切合作，直至其停止研发自主武器。 公开信发出后，KAIST迫于压力宣布将不会参与研发任何自主武器系统及杀手机器人的研发，抵制活动也随之结束。 科学家们在公开信中指出，人工智能武器已被视为继火药与核武器之后的第三次武器革命，杀伤力巨大。 亚马逊也曾受到类似的指责。 2017年8月至2018年9月期间，有数百名员工因为而被亚马逊的AI系统自动解雇。 无需经过人工操作，只要根据监测数据，它就可以自动生成警告和解雇指令。 上厕所、喝水，都算，一旦生产效率低下，系统就会警告。 一些在仓库区工作的员工声称，他们为了不被解雇，尽量避免上厕所。 过去，一个能影响数亿人的超级系统，只有国家才能拥有。 而现在，掌握最先进信息技术的科技公司，在无限接近。 技术本身并无善恶，但人性中的阴暗面，可能会蕴藏其中。 比如Facebook的推荐系统被指存在性别、种族歧视；人脸识别技术常常被曝出应用于售楼处、便利店、商场等，收集客户信息用于牟利。 北伊利诺伊大学的DavidGunkel博士，在思考人机关系时提出，当与其他存在互动时，无论是和动物、人类、自然环境、还是机器人，重要的不是它们是什么，而是我们和它们建立了怎样的关系。 在人工智能的倒逼下，对技术透明化的需求从未像现在这样强烈。 工具的制造者被他们的工具改造了。 陆续地，不同地区都出台了一些对推荐算法使用规则的法案，对大数据使用范围的规范，以及加强了对科技公司的监管。 2021年9月10日，美团外卖首次公开关于骑手配送时间的计算规则，介绍了预估送达时间背后的算法逻辑。 两个月后，美团又在官方公众号上表示，在试着给出一个兼顾商家、骑手和用户三端需求的订单分配算法。 公司开始更加积极地对外沟通这些过去隐藏在幕后的规则。 另外还有滴滴，2021年7月份开始，网约车收费透明化，在账单上给司机展现每一单的收入，以及滴滴抽成多少。 迎来了强监管。 2021年12月31日，国家出台《互联网信息服务算法推荐管理规定》，自2022年3月1日起施行——直指大数据杀熟、诱导用户沉迷、过度消费、信息茧房等现象。 《规定》明确，针对算法推荐的个性化服务以及对个人特征标签的使用等方面的选择权，将交由消费者决。 ——目前，已经有部分APP上线了关闭个性化推荐或广告的功能。 未来，算法将纯粹地由公司内部驱动，变成加入外部社会力量的干预。 而鉴于过往的劣迹斑斑，人们越来越失去对互联网巨头的信任。 算法透明也是重新赢回口碑、在同行竞争中获取用户信任的方式。 有人调侃：人在退化，变得越来越像机器；而AI在进化，变得越来越像人。 人工智能所带来的挑战中，有许多问题的核心事关个人在未来的角色。 正如凯文·凯利在《必然》一书所言：*头图来源：电影《机械姬》本文为极客公园原创文章，转载请联系极客君微信geekparker
