全国服务热线:18600000000

回望2023合规十大新闻人工智能治理“创世纪”全

日期:2024-01-01 09:05 人气:

  回望2023合规十大新闻人工智能治理“创世纪”全球规则话语竞赛;国家数据局正式挂牌每一年年末回望,都会笃定这是历史长河中“不平凡”的一年。2023年,也是如此。

  这一年,三年新冠疫情防控转段后,市场在通胀和衰退的看法中摇摆不定,中国经济回升向好,全国统一大市场加快推进;数据要素市场加快建设步伐,国家数据局正式挂牌......

  旧脚本的故事还在展开,新的“创世纪”似乎已经来到。2023年,没有人可以忽略人工智能带来的刺激与冲击。资本狂飙、“千模大战”、全球规则线年,人工智能领域信息密度之高,有时候会让人忘却,ChatGPT的上线也只有一年多而已。

  技术的迭代远超人类进化速度,人工智能快速发展的同时,数据泄露、个人隐私风险、著作权侵权、虚假信息等进入公众视野。年末OpenAI的“宫斗”大戏,把人工智能安全对齐问题正式推到所有人面前。

  理想主义与商业路线的分歧,或许将持续缠斗在一起。此外,AI带来的后人类主义危机似乎明摆在桌面,面对“硅基生物”超速迭代,人类社会的权力结构是否也将重塑,人们该以何种姿态迎接人机混杂带来的迷思?

  我们面对的不是近在咫尺的当下,而是想象触达不到的未来。全球治理规则竞速,中国于7月份发布的《生成式人工智能服务管理暂行办法》成为全球首份针对生成式人工智能的政策文件,人工智能法草案已被列入国务院2023年立法工作计划;美国发布《关于安全、可靠和可信地开发和使用人工智能的行政命令》,被视为将发挥“华盛顿效应”;欧盟《人工智能法案》达成临时协议,全球首部人工智能法案将诞生。

  技术演进和法律政策演进两条线相互交织,立法该如何与技术发展匹配,如何实现安全与发展的平衡、如何建设配套制度来提高产业的核心竞争力?这些疑问将在现在以及未来时时叩问着我们。人工智能治理,注定是一场再建巴比塔革命。

  2022年11月30日,ChatGPT横空出世,被视为人工智能(AI)的iPhone时刻、AI的奇点时刻。2023年,ChatGPT母公司OpenAI成为当之无愧的热榜屠榜选手。两个月时间,ChatGPT的月活跃用户已达1亿,成为历史上增长最快的消费者应用,ChatGPT爆火印证了大语言模型的可实现路径,也点燃了大模型之战;3月OpenAI继续推出GPT-4语言模型、 11月开发者大会推出GPT-4 Turbo........商业风光一时无两的同时,OpenAI在2023年频频因风险因素遭遇指摘,包括在多国被禁用、被指控偷窃数据、遭遇FTC调查.......5月开始,OpenAI的CEO Sam Altman主动走进国会山,主动去世界各国拜访,均提及人工智能监管问题。

  发展与争议并存,故事在11月份迎来高潮,在OpenAI开发者大会轰炸AI创业圈,宣布推出最新的GPT-4 Turbo的预览版,支撑公司技术的大语言模型的更强大、更快速的版本;并将GPT商店,允许用户申请上线自己制造的GPT,并承诺根据GPT的使用情况向创建者支付费用。

  10天后,Sam Altman被公开解聘,一周内多轮反转,剧情之跌宕或许增加了不少全球用电量。

  OpenAI最开始为单纯的非营利实体,初心是创造安全有益的通用人工智能。为了保证实现这一基础愿景,OpenAI进行了一套非常严格的公司架构设计,这也是本轮戏剧化冲突如此跌宕的机构层面原因。

  OpenAI权力高度集中于董事会控制的非营利母公司OpenAI Inc.。2019年,OpenAI在母公司下设立了营利性子公司,名为OpenAI LP(现名为OpenAI Global LLC),负责产生和分配利润,并以此为主体募资,引入了微软为少数股东,该营利性子公司完全受非营利性母公司控制;并设定“利润封顶”规则。

  OpenAI董事会严格独立于资本之外,微软作为重要投资人无法派人进入OpenAI的董事会。这也是本轮大戏中微软高频现身的原因。

  伴随着OpenAI商业化的突破,董事会、股东的矛盾也暴露出来。有观点认为,OpenAI董事会被理想主义者把持,执行层在丛林法则的商业化环境运行。冲突在所难免。

  第二层逻辑,一定程度上是人工智能技术发展和安全的矛盾的体现。此次宫斗的一个关键人物,OpenAI的联合创始人及首席科学家Ilya Sutskever,是OpenAI成功的核心人物,其一直强调人工智能安全与对齐,并组建了超级对齐项目。Ilya Sutskever认为AGI必然很快超过人类,所以应该为面对超越人类智慧的AI做准备。

  一定程度而言,Ilya Sutskever是科学家、哲学家,Sam Altman则是商人。经过一周缠斗,哲学家退场,商人主导,OpenAI商业前景无限。但是其带来的忧云,悬浮在人工智能应用上方。

  上述提及,ChatGPT的爆火,验证了大模型的可行性。随之国内外大模型千帆竞速。

  《中国人工智能大模型地图研究报告》对全球大模型技术发展脉络进行梳理发现美国谷歌、OpenAI等机构不断引领大模型技术前沿。欧洲、俄罗斯、以色列、韩国等地越来越多的研发团队也在投入大模型的研发。从全球已发布的大模型分布来看,中国和美国大幅领先,超过全球总数的80%,美国在大模型数量方面始终居全球最高。

  据统计,截至2023年10月,我国10亿参数规模以上的大模型厂商及高校院所共计254家,分布于20余省市/地区,其中北京有122家,数量居全国首位,约占全国的一半。

  不过,大模型发展本身面临多重问题。算力层面,高性能芯片短缺、算力资源分散、存力不足。在很长一段时间内,芯片与算力仍会是国产大模型与ChatGPT之间一道巨大的鸿沟。

  大模型的最新进展依赖于更高质量、更丰富的训练数据集。目前,中文语料库先天不足、高质量数据“见底”,行业数据碎片化、分割化均是发展桎梏。此外,从OpenAI面临的集体诉讼及指控来看,数据收集行为以及留存的数据内容是否合规,已成为当前相关技术发展亟待解决的问题,更是大模型产品未来健康发展的关键。

  应用场景不够明确也是发展面临的调整。是否能与业务充分结合,进而真正解决业务问题,是决定 AI 能否实现经济价值的关键因素。 只有紧贴业务的 AI 战略设计、完善的配套架构、充足的 AI 人才及健全的内部培养机制,才能使 AI 与业务发展需求充分融合,最大化实现经济收益。

  AI立法进行时②:大模型商业化艰难探索,是闪电战也是持久战-21经济网(

  “OpenAI并不open”,这是业内的精准吐槽。其开发的GPT-3.5、GPT-4,均选择闭源。也引发了数字垄断的争议。

  面对OpenAI强势的市场地位,Meta尝试发起冲击。今年7月,脸书母公司Meta宣布将推出开源大型语言模型Llama 2,可免费用于研究和商业用途。原本与OpenAI长期、深入合作的微软则成了此次Llama 2的“首选合作伙伴”。

  Llama 2的开源商用,给既有商业格局投下了一颗足够震荡的“石子”。Meta这个在本轮AI变革中的后起商业巨头,似乎想用开源的方式放手一搏。“我们相信,开源的方法是当今人工智能模型发展的正确途径,尤其是在技术进步日新月异的生成式领域。”Meta在其官网文章中表示。当然,对于Meta甚至众多开源者而言,开源的野心不仅是短期的商业变现,其更想引领规则设计以及搭建生态。

  12月,Meta Platforms和IBM发起了一个由50多家人工智能公司和研究机构组成的人工智能联盟(AI Alliance),意在培养⼀个开放的社区,使开发⼈员和研究⼈员能够加快⼈⼯智能领域负责任的创新,同时确保科学的严谨性、信任、安全、保障、多样性和经济竞争⼒。

  在层层压力下,2023年圣诞前夕,Sam Altman在社交平台上送出了一份“圣诞礼物”:2024年的OpenAI愿望清单。在12项发展目标中,开源也许是最引人关注的一项。此次回应似乎暗示着,公众翘首以盼的GPT开源模型正在提上日程。

  人工智能技术与商业狂飙的同时,风险问题频频引起争议。数据泄露、个人隐私风险、著作权侵权、虚假信息以及对就业市场的冲击等进入公众视野。

  4月网信办就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见,7月份正式发布《生成式人工智能服务管理暂行办法》,成为全球首份针对生成式人工智能的政策文件,拿出一份中国答卷。

  6月,国务院办公厅印发了《国务院2023年度立法工作计划》,其中便提到,在实施科教兴国战略、推进文化自信自强方面,正在预备提请人工智能法草案。

  8月15日,南财合规科技研究院与中国社科院法学所等联合起草的《人工智能法示范法1.0(专家建议稿)》发布,在国内外学术界和实务界产生广泛影响。

  目前,《示范法》2.0版本正在讨论中,以不断适应人工智能发展安全态势,更好推动凝聚依法发展和治理人工智能的共识。

  《人工智能法示范法1.0(专家建议稿)》发布 提出负面管理清单等多项创新措施

  欧盟委员会于2021年4月提出《人工智能法案》提案的谈判授权草案。2023年,《人工智能法案》动态频频,人工智能立法迈出关键一步。当地时间6月14日,欧洲议会以 499 票赞成、28 票反对和 93 票弃权通过了关于《人工智能法案》的谈判立场。

  此后,历经马拉松式谈判后,欧洲议会、欧盟成员国和欧盟委员会三方于当地时间12月8日晚就《人工智能法案》达成临时协议,该法案将成为全球首部人工智能领域的全面监管法规。

  《人工智能法案》采取风险分级管理思路,定义了人工智能的4个风险级别:不可接受的风险、高风险、风险有限、最小或无风险,并根据人工智能可能产生的风险级别为提供者和用户规定义务。

  欧盟《人工智能法案》迈出新一步:明确AI价值链责任 建立高风险AI系统数据库

  作为人工智能高地的美国,在过去一年也在紧锣密鼓地推进监管工作。7月和9月,白宫已经先后两次获得共计十五家领先人工智能公司的自愿承诺,这些企业保证将在遵守安全、可靠和可信原则的基础上负责任地开发人工智能。

  当地时间10月30日,美国总统拜登签署一项具有里程碑意义的行政命令——《关于安全、可靠和可信地开发和使用人工智能的行政命令》(以下简称“行政命令”)。该行政命令提出依据八项指导原则和优先事项推进人工智能的开发和使用,包括:人工智能制定新的安全标准,保护美国人隐私,促进公平和公民权利,维护消费者、病人及学生权益,支持工人,促进创新和竞争,提升美国在海外的领导力,确保政府负责任且有效地使用人工智能。

  行政命令立足美国关切,提出内容丰富的人工智能治理举措,影响力或逐渐扩大,以标准划定“生态圈”,未来在人工智能治理领域,很有可能会出现“华盛顿效应”。

  “组建国家数据局”,3月7日下午,十四届全国人大一次会议举行第二次全体会议。根据国务院关于提请审议国务院机构改革方案的议案,组建国家数据局。一个全新的机构“破土而出”。

  7月28日,备受期待的国家数据局迎来首任局长,国务院任免国家工作人员,刘烈宏为国家数据局局长。这位曾在网信办、工信部先后履职,有着丰富管理履历的通信行业专家,在他的执掌下,中国数据要素市场如何推进,值得期待。

  10月25日,国家数据局“千呼万唤始出来”,正式挂牌。国家数据局加速组建,将有望加强数据战略的顶层统筹,改善“九龙治水”现象。

  挂牌过后,剑指何方?11月25日,国家数据局局长刘烈宏在2023全球数商大会开幕式上致辞,首次透露将与相关部门一道研究实施“数据要素X”行动。行动接踵而至,12月15日晚,国家数据局公布了《数据要素×三年行动计划(2024—2026年)(征求意见稿)》(下称“《意见》”),《意见》提出,到2026年底,数据要素应用场景广度和深度大幅拓展,在经济发展领域数据要素乘数效应得到显现,打造300个以上示范性强、显示度高、带动性广的典型应用场景。培育一批创新能力强、市场影响力大的数据商和第三方专业服务机构,数据产业年均增速超过20%,数据交易规模增长1倍,场内交易规模大幅提升等。

  2023年的最后一个工作日,国家数据局举办媒体吹风会,介绍《“数据要素×”三年行动计划(2024—2026年)》(以下简称《行动计划》)有关情况。

  过去一年,国家数据局组建,数据要素市场建设政策文件密集发布。国家数据局指挥之下,数据能否供得出、流得动、用得好,能否促进我国数据基础资源优势转化为经济发展新优势,推动数据在不同场景中发挥出千姿百态的乘数效应,且看国家数据局未来“大显身手”。

  网络暴力,并不是一个陌生的词汇。“人人都有麦克风”的时代,网暴离我们并不遥远,有时甚至会变成“压死骆驼的最后一根稻草”。杭州女子取快递被造谣案,寻亲男孩刘学州遭网暴致死,“粉发女孩”被网暴后离世……诸多案例历历在目,要想堵住网暴伤人的“无底洞”,治理措施必要且急需。

  7月7日,国家互联网信息办公室关于《网络暴力信息治理规定(征求意见稿)》公开征求意见。9月25日,最高人民法院、最高人民检察院、公安部联合举行发布会,发布《关于依法惩治网络暴力违法犯罪的指导意见》(以下简称《意见》)。

  《意见》 明确网暴罪名适用规则,对各种网络暴力行为的性质认定和法律责任作出了明确;提出依法严肃追究网暴者的法律责任,针对未成年人、残疾人实施网络暴力,组织“水军”、“打手”等实施网络暴力,编造“涉性”话题侵害他人人格尊严,利用“深度合成”等生成式人工智能技术发布违法信息等情形的,依法从重处罚。针对网络平台的义务,《意见》强调,对所发现的网络暴力信息不依法履行信息网络安全管理义务的行为,可以适用拒不履行信息网络安全管理义务罪。

  对网络暴力的治理并不能“毕其功于一役”,规章的出台只是第一步。过去一年,南财合规科技研究院密切关注网络暴力现象及治理举措,举办了“‘按键’伤人如何破?——探索网络暴力的多元治理路径”研讨会,邀请领域内各界专家学者共同就我国网暴治理相关问题建言献策。多位参会专家指出,当前各主要网站平台已基本搭建起网暴防治制度,通过完善监测识别、实时保护、干预处置、溯源追责、宣传曝光等措施,加大治理力度。

  需要注意的是,网络暴力并不只是“单独行动”,也可能与“网络厕所”“人肉开盒”等“狼狈为奸”。11月17日,中央网信办就重拳出击,在全国范围内启动为期1个月的“清朗·网络戾气整治”专项行动,围绕社交、短视频、直播等重点平台类型,集中整治7类突出问题,“网络厕所”“开盒挂人”行为位于首位。“网络厕所”戾气横生,成为了网暴滋生的土壤。

  同样在11月,B站通报了一起“人肉开盒”案例,案件牵涉18个省市,共计40余人。通告中显示,多位UP主举报,称有群体在境外平台有组织地煽动用户对站内UP主进行“人肉开盒”。该群体不仅在线上公开UP主个人信息,还对其进行一系列电话私信骚扰、网暴攻击等违法行为。

  由此看来,对网络暴力的治理依旧任重道远。能否把“按键”伤人的那双手彻底推开,也许要在2024年寻找答案了。

  破解“按键”伤人|网暴“定义之困”如何破?专家建议分类处理,避免“寒蝉效应”

  《2023年中国游戏产业报告》显示,2023年,国内游戏市场实际销售收入3029.64亿元,同比增长13.95%,首次突破3000亿关口;用户规模6.68亿人,同比增长0.61%,为历史新高点。而对于游戏版号的发放,截止12月25日,共下发1075个游戏版号(含977个国产及98个进口),已经超过2022年和2021年水平。

  监管方面,10月份,《未成年人网络保护条例》发布,成为我国第一部专门性的未成年人网络保护综合立法。其进一步明确网络游戏适龄提示要求。根据不同年龄阶段未成年人的身心发展特点和认知能力,对游戏产品进行分类。为防止未成年人在网络游戏、网络直播等方面的沉迷问题,相关网络产品和服务提供者已经按照法律规定,推出升级防沉迷系统,推动“青少年模式”升级为“未成年人模式”。

  12月22日,游戏产业迎来一纸强监管。国家新闻出版署在官网公开了征求《网络游戏管理办法(草案征求意见稿)》(以下简称《意见稿》)意见的通知。

  成为了2023年年末游戏行业的头号新闻。《意见稿》中重点针对游戏产品的商业化设计新增了多项要求,包括“网络游戏不得设置每日登录、首次充值、连续充值等诱导性奖励”“所有网络游戏须设置用户充值限额”“同一企业不得同时经营网络游戏币发放和网络游戏币交易服务”等。

  《意见稿》对现行的网络游戏影响极大,几乎所有的游戏都要进行相应调整。市场也遭受冲击。

  此后,版署相关负责人回应称,《意见稿》立足于保障和促进网络游戏行业繁荣健康发展。将认真研究,并将在继续听取相关部门、企业、用户等各方意见的基础上进一步修改完善。

  京东、阿里两大电商巨头持续数年的“二选一”争议在2023年年末有了阶段性进展,多年前的子弹终于击中标靶。

  12月29日,京东黑板报显示,北京市高级人民法院对京东诉浙江天猫网络有限公司、浙江天猫技术有限公司、阿里巴巴集团控股有限公司“二选一”案作出一审判决,认定其滥用市场支配地位实施“二选一”的垄断行为成立,对京东造成严重损害,并判决向京东赔偿10亿元。

  针对京东下午公告的“二选一”案件结果,阿里巴巴回应表示:已获悉此消息,尊重法院的判决结果。

  故事要从2017年讲起,当年7月,京东和唯品会发表联合声明,称某电商平台利用其市场垄断地位,以各种方式要求商家签署所谓的“独家”合作,并从京东和唯品会等平台退出,否则将会受到削减活动资源、搜索降权、屏蔽等处罚。

  11月,京东向北京高院针对天猫、阿里巴巴提起滥用市场支配地位的诉讼。京东诉称,2013年以来,天猫不断以各种手段实施对强迫商家进行“二选一”,主张阿里滥用了在中国大陆 B2C 网上零售平台市场的支配地位,其实施的 “二选一”构成滥用市场支配地位项下的限定交易行为。12月,北京高院立案。

  在案件审理过程中,国内涉反垄断和反不正当竞争的监管环境也有所变化。2018年,根据《党和国家机构改革方案》组建国家市场监督管理总局,由其负责反垄断统一执法、监督管理市场秩序等。

  2020年11月,国家市场监督管理总局(以下简称市场监管总局)关于《关于平台经济领域的反垄断指南(征求意见稿)》对外公开征集意见,“二选一”“大数据杀熟”等问题面临严监管。随后,国家市场监管总局依法对阿里巴巴实施 二选一 等涉嫌垄断行为立案调查。

  宏观环境方面,2020年12月中共中央政治局召开会议首提“强化反垄断和防止资本无序扩张”,拉开反垄断大幕。

  2021年进入“反垄断”大年,监管机构对于互联网行业的反垄断监管措施不断加强,阿里巴巴、美团、腾讯等均受到反垄断处罚。

  2021年4月10日,国家市场监督管理总局官网曾发布《依法对阿里巴巴集团控股有限公司在中国境内网络零售平台服务市场实施二选一垄断行为作出行政处罚》,对阿里处以罚款总计182.28亿元。

  专访澜起科技杨崇和:科创企业需要长期积累,不论环境冷暖都要潜心技术、尊重市场

  广东最新通知:暂停办理城乡居民基本养老保险和城乡居民基本医疗保险参保缴费业务

 备案号: