• 石家庄股票配资平台 通向可信AGI,周伯文提出AI-45°平衡律兼顾安全与性能

    发布日期:2024-08-09 08:04    点击次数:202

    石家庄股票配资平台 通向可信AGI,周伯文提出AI-45°平衡律兼顾安全与性能

    当地时间7月31日,美国国家公路交通安全管理局表示石家庄股票配资平台,由13家汽车制造商生产的4900万辆美国汽车中,有5100万个安全气囊充气器存在严重安全隐患。

    近年来,比亚迪持续拓展海外布局。2024年上半年,比亚迪累计出口20.34万辆汽车,同比增长173.8%。国信证券(002736)研报表示,得益于比亚迪出口车型矩阵的持续提升,以及海外建厂对于后续出海业务的支持,叠加公司产能陆续落地,出口销量有望持续提升。

    当前,以大模型为代表的生成式人工智能快速发展,但随着能力的不断提升,模型自身及其应用也带来了一系列潜在风险的顾虑,包括数据泄露、滥用、隐私及版权相关的内容风险,以及恶意使用带来伪造、虚假信息等相关的使用风险,还有人担心人工智能是否会对就业结构等社会系统性问题带来挑战。

    “出现对这些风险的担忧,根本原因是我们目前的AI发展是失衡的。”7月4日,在2024世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2024)的开幕式全体会议上,上海人工智能实验室主任、首席科学家,清华大学惠妍讲席教授周伯文发表演讲时提出一个技术主张,要探索人工智能45°平衡律(Towards AI-45°Law)。

    实现安全与性能共同增长的“AI-45°平衡律”

    周伯文提到,总体上我们在AI模型安全能力方面的提升,还远远落后于性能的提升,这种失衡导致AI的发展是跛脚的,业界称之为“Crippled AI”。

    目前的AI发展趋势是,在Transformer为代表的基础模型架构下,加以(大数据-大参数量与大计算)的尺度定律(Scaling Law),目前AI性能呈指数级增长。与此形成对比的是,在AI安全维度典型的技术,如:红队测试、安全标识、安全护栏与评估测量等,呈现零散化、碎片化,且后置性的特性。

    不均衡的背后是二者投入上的巨大差异。“如果对比一下,从研究是否体系化,以及人才密集度、商业驱动力、算力的投入度等方面来看,安全方面的投入是远远落后于AI能力的。”周伯文认为,要避免这样的“Crippled AI”发展,我们应该追求的是TrustWorthy AGI,可信的通用人工智能。

    周伯文认为,可信AGI需要能够兼顾安全与性能,需要找到AI安全优先,但又能保证AI性能长期发展的技术体系,他把这样一种技术思想体系叫做“AI-45°平衡律” (AI-45° Law)。具体来说,这种思想指的是,从长期的角度来看,我们要大体上沿着45度安全与性能平衡发展,平衡是指短期可以有波动,但不能长期低于45°(如同现在),也不能长期高于45度(这将阻碍发展与产业应用)。这个技术思想体系要求强技术驱动、全流程优化、多主体参与以及敏捷治理。

    实现AI-45°平衡律也许有多种技术路径。以上海AI实验室为例,团队最近在探索一条以因果为核心的路径,并把它取名为可信AGI的“因果之梯”,他们将可信AGI的发展分为三个递进阶段:泛对齐、可干预、能反思。

    “泛对齐”主要包含当前最前沿的人类偏好对齐技术。但需要注意的是,这些安全对齐技术仅依赖统计相关性而忽视真正的因果关系,可能导致错误推理和潜在危险。

    “可干预”主要包含通过对AI系统进行干预,探究其因果机制的安全技术,例如机械可解释性、对抗演练等,它可以通过提高可解释性和泛化性来提升安全性,同时也能提升AI能力。

    “能反思”则要求AI系统不仅追求高效执行任务,还能审视自身行为的影响和潜在风险,从而在追求性能的同时,确保安全和道德边界不被突破。这个阶段的技术,包括基于价值的训练、因果可解释性、反事实推理等。

    “目前,AI安全和性能技术发展主要停留第一阶段,部分在尝试第二阶段,但要真正实现AI的安全与性能平衡,我们必须完善第二阶段并勇于攀登第三阶段。”周伯文认为,沿着可信AGI的“因果之梯”拾级而上,可以构建真正可信AGI,实现人工智能的安全与卓越性能的完美平衡。

    举报 第一财经广告合作,请点击这里此内容为第一财经原创,著作权归第一财经所有。未经第一财经书面授权,不得以任何方式加以使用,包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。 如需获得授权请联系第一财经版权部:021-22002972或021-22002335;banquan@yicai.com。 文章作者

    刘晓洁

    相关阅读 一财社论:正视科技向上和向善的力量

    科技变革必然推动经济社会结构的重塑和重构,这是经济社会发展过程中必然历经的向上、向善力量。但同时,这一重塑和重构也必然会带来经济社会进化的摩擦成本,需各方用开放包容的心态看待技术变革,减少适应性焦虑压力。

    昨天 20:58 大模型“瞎说”“乱想”?科学家指路“通专融合”

    通用模型既要前沿探索、不断创新,同时还要考虑实现价值,“通专”结合。

    07-05 10:11 数字经济核心产业增加值约占一成GDP,投融资增速持续领跑|言叶知新

    生成式人工智能(AIGC)成为投资新晋热点。通用大模型、元宇宙/数字人、AI芯片三个细分领域的融资最为活跃,通用大模型的融资金额增长较快。

    从数字看发展 07-04 22:27 微软AI负责人:AI时代需要新的治理机制

    应认真对待与AI相关的安全风险。

    06-27 15:19 发布首款开源人形机器人原型机,世界人工智能大会有这些亮点

    共200余位重磅嘉宾将与会发表演讲石家庄股票配资平台。目前已有特斯拉、微软、施耐德等500余家企业确认参展。

    06-20 14:32 一财最热 点击关闭


Powered by 全国炒股配资门户_实盘股票配资_正规股票配资公司 @2013-2022 RSS地图 HTML地图

Copyright Powered by365建站 © 2009-2029 联华证券 版权所有