防范“野蛮生长”,规范引导AIGC向上向善
怎样判定生成式语言大模型会否“一本正经地胡说八道”?如何知道自动驾驶系统能够抵抗得住外界恶意攻击?功能强大的AI(人工智能)大模型也需要“健康检测”,以确保其准确性、抗攻击性及安全性。
近日,上海首家生成式人工智能(AIGC)质量检验检测中心挂牌批筹,为AI大模型等智能软件提供专业化“体检”。挂牌两个月来,这家AI质检中心已出具75份“体检报告”。
(相关资料图)
在AI质检火爆的背后,折射出整个产业对于行业质量规范的渴求。尽管目前AI检测尚属于企业自主行为,但未来对于大模型安全性、可解释性、伦理风险的检测检验,将会形成国家强制标准。上海这一探索将在检测与标准同步发展的新模式下,对生成式AI产业的规范与引领产生积极影响。
给ChatGPT做测评,为AI系统“质量保障”探路
走进上海市北高新区区块链谷,筹建中的上海生成式人工智能质检中心里,一台台电脑中正奔跑着AI“体检”软件。
今年,ChatGPT带动了生成式人工智能应用的火爆。我国迄今已推出上百个大模型,如何客观地评价、比较大语言模型及其他AIGC模型的性能,成为大模型应用的关键一环。
上海计算机软件技术开发中心主任蔡立志介绍,软件中心是上海科学院的直属单位,作为一家长期以为网络安全保驾护航为使命的研究机构,从2016年起就关注人工智能的安全问题,迄今已开展了2000多项AI检测业务。
在多年技术与行业经验积累的基础上,经过近两年的准备,上海市生成式人工智能质检中心于两个月前在软件中心正式挂牌批筹。“挂牌后不久,我们就给ChatGPT做了一次测评。”上海计算机软件技术开发中心软件工程研究所副所长陈敏刚博士透露,测评的确可以对生成式语言大模型的推理、抗幻觉、理解用户意图等能力,进行客观评价。
蔡立志介绍,质检中心主要面向生成式人工智能所涉及的计算机视觉、自然语言处理、内容生成等领域,聚焦人工智能生成内容语义表达能力、逻辑推理能力、合成内容鉴别,以及功能、性能、安全性评估等,“通过提供全方位的测评服务,以保障人工智能系统或应用的质量”。
AI“体检”火爆,“守底线”更要引领产业
随着大模型技术的快速进步,在人工智能应用不断深入的同时,利用AI换脸、合成语音进行传播虚假信息、行骗等危害社会的现象也不断发生。
7月10日,国家网信办等七部委联合发文《生成式人工智能服务管理暂行办法》,明确了AIGC服务提供者的责任,包括信息源可信责任、生成内容合法合规责任、申报安全评估及算法备案责任。
“管理办法的落地,需要专业的第三方机构提供AI质量检验检测服务。”蔡立志透露,质检中心去年筹建期间已完成300多个AI质检项目,“正式挂牌仅两个月,就已出具75份相关检测报告”。
由此可见,为AI做“体检”的需求有多火爆。事实上,这项工作本身就是一项含金量极高的技术活儿。上海计算机软件技术开发中心副主任宋俊典告诉记者,对于一些大型复杂AI系统的检测,甚至需要根据应用场景专门搭建检测检验系统,耗时可能长达半年,同时还需要研发大量相关技术与标准。近三年来,上海软件中心为上海乃至长三角地区人工智能企业与应用方提供专业的第三方测评服务数年均超过500项,累计发布AI检测相关标准30余项。
“对于AI的质量检测,只有好与差之分,没有对与错的判断。”宋俊典解释,通过质检,厂商能更清晰地了解AI软件的性能,对产品的迭代与优化更有针对性。
检测检验是行业话语权的重要标志,检测标准往往是一个行业的发展风向标。然而,对于人工智能这个飞速发展的领域,蔡立志认为,不能简单套用传统产业“先立标准后检测”的“守底线”模式,而应采用检测与标准同步发展的新型模式,以起到规范、引领产业的作用。
据悉,目前AI检测尚属于企业自主行为,未来对于大模型的安全性、可解释性、伦理风险的检测检验,可能会形成国家强制标准。(文汇报记者 许琦敏)
来源:文汇报
标签:
推荐文章
- 防范“野蛮生长”,规范引导AIGC向上向善
- 通付盾携“基于无证书公钥体系的分布式数字身份认证解决方案”亮相2023商用密码大会
- 2023杭州居民身份证线上补换审核需要多久?
- 海苔怎么制作出来的? 孩子爱吃的海苔,教你自己做
- 新民快评 | 让一老一小“方便”更方便
- 黔渝交融丨在桐梓山间 重庆游客有一处避暑向往
- 西安动车段:“闷”在厕所里的机械师
- 天益医疗:坚定支持国家医疗反腐的相关举措
- 红玉髓和红玛瑙谁更好
- 今日4只基金首发募集
- 风中奇缘是悲剧吗(小说风中奇缘结局是什么)
- 德琪医药-B:与翰森制药就希维奥® (塞利尼索)在商业化合作达成协议
- 新股狂飙不会成为常态
- 中国印刷业迈向高质量发展新征程
- 咳嗽有白痰是什么原因_咳嗽有黄痰是什么原因
- 女子雨天爬三清山疑被山洪冲走遇难!家属向景区索赔260万,最新回应来了
- 美国7月未季调CPI同比上升3.20%,预期3.30%,前值3.00%;7月未季调核心CPI同比上升4.70%,预期4.80%,前值4.80%
- 96名选手同台竞技网络安全,崂山区教体局夺团体一等奖
- 胜捷企业(06090)公布中期业绩 权益持有人应占溢利3830.1万新元 同比增长16%
- 优化民营经济发展环境 中国官方发文完善政府诚信履约机制
- 荷兰女足球员:美国女足太多嘴了,希望她们吸取这次教训
- 当心,这些行为可能会泄露你的个人信息!来看典型案例
- 哈药股份:目前公司尚未布局减肥类产品的研发
- 京东到家携手臻浓实现“社区圆梦计划” 助力健身角翻新
- 波兰防长:将在与白俄罗斯的边境部署约一万名军人
- 华安证券:佐力药业Q2利润呈高增长态势,维持“买入”评级
- 韩国瑜出手协助南投救灾,许淑华亲自回应:南投乡亲感恩您!
- 台式电脑音箱怎么连接(台式电脑音箱怎么连接主机)
- 华为 Mate 60 Pro 渲染图曝光:灵动岛没了
- 轩尼诗销售遇冷 酒类成LVMH业绩唯一下降业务
- 基金调研丨银河基金管理有限公司调研荣泰健康
- 银行理财机构“变形记”:现金及存款成“新宠”
- 合康新能:8月9日融资净买入12.84万元,连续3日累计净买入613.18万元
- 大化改新是日本从什么社会向什么社会过渡的标志 大化改新
- XR东风科董秘回复: 公司目前没有破产重组的打算
- 东北亚木材产业链对接会在绥芬河举行
- 昆明大宥城商业项目复工 开发商曾于3月进入重整
- 汽、柴油价格小幅提高
- 美发布对外投资审查行政令,商务部:中方保留采取措施权利
- 具俊晔大S时隔23年重逢更多画面曝光!两人深情相拥,大S又哭又笑
- 远达环保:融资净偿还53.88万元,融资余额1.67亿元(08-09)
- 曝iPhone15发布会将于9月12日举办 预订9月15日开放
- 《枕刀歌》《剑来》《诡秘之主》等多部动漫作品发布
- 水庆霞不辞职!率中国女足出战亚运会,某国脚不服安排,恐遭弃用
- 这个镇的种子出口到众多“一带一路”沿线国家
- 上市首日 股价狂飙3700%!要544年回本!盟固利基本面“透心凉”!解套有希望吗?
- 浙江金华:建设零工市场 促进灵活就业
- win10自动关机设置在哪(win10定时关机怎么设置)
- 芒果英文怎么说mango(芒果英文)
- 泰州兴化:戏曲纳凉晚会丰富群众夏季“夜生活”
- 视频 | 湘西税务:党业融合“书记讲” 企业一线解难题
- 7月中国快递发展指数出炉 已连续5个月超百亿件
- 《长相思》涂山璟的尾巴怎么断的 涂山璟为什么一开始那么惨
- 共同出售权(共同出售权比例)
X 关闭
最新资讯
- 诺华制药(NVS.US)旗下Remibrutinib在治疗慢性自发性荨麻疹研究中取得积极结果
- 不到30天爆炸两次!中国航天损失惨重,专家:是美国在背后搞鬼
- 广州从化区签约动工23个项目,总投资超263亿元
- 我是开诊所的,有人医不好想闹事,他也告了卫健局,局里也来取证了
- 正在公示!黄石这里拟建住宅、酒店
- 盘点成都大运会赛场上的“显眼包”——吉祥物“蓉宝”
- win10切换桌面的快捷键是什么 win10快速切换桌面方法 w10系统切换桌面快捷键
- 工商银行好运锦鲤金条100克价格今天多少一克(2023年08月09日)
- 上海车展后,企业更坚定参加进博会决心
- 假面骑士BLACK SUN首次变身版SHF公开,红眼模式好帅气
- 超导概念早盘走低 百利电气跌超5%
- 四川、山东突发地震!网友:震感强烈!
- 沪深股通|世运电路8月8日获外资卖出0.04%股份
- 竞聘理由简写范文 竞聘理由怎么写急
- 8月8日基金净值:富国创业板指数(LOF)A最新净值0.942,跌0.53%
- 2023·新时代的贵州人|肖雪:培养有情怀的全科医学人才
- 一件事干28年!不变的农夫山泉,拿什么应万变?
- Telsey Advisory:美国房地产市场低迷 下调劳氏、家得宝评级至“与大盘持平”
- 为什么网站打不开显示不安全(为什么网站打不开)
- 法拉利coupe样机以雷诺Arkana价格出售
- 平均每天不到0.25元,提供上门开锁、马桶疏通等服务…“沪家保”今日上线
- 驻港联络办发言人:充分信任和坚定支持香港警队 决不允许任何乱港势力攻击抹黑
- 夫妻双方约定财产是属于合同吗,法律怎么规定的
- 牧原股份7月份生猪销售收入93.45亿元 商品猪价格下跌幅度收窄
- 《命运方舟》t3装备怎么搭配?t3装备搭配攻略
- 【转会中心】内马尔到底去哪儿?巴黎租G拉莫斯+买断又是一个亿!
- 圣农发展:7月实现销售收入16.34亿元,同比下降1.63%
- 福建省云霄县发布雷雨大风黄色预警
- 2,3,4三甲氧基苯甲醛商品报价动态(2023-08-08)
- 荷兰武术少女的中国奇幻之旅
- 太平洋给予东方电缆买入评级 业绩符合预期 海风获单突破地域限制
- 又要创新高C罗ins粉丝数离6亿只差80万,纪录时刻即将到来!
- 1.3T发动机配轻混系统 全新逍客将于8月16日上市
- 游戏公司Square Enix公布2023年第二季度财报
- 三星s5830i线刷(三星s5830刷机包)
- 《上海市网络直播营销活动合规指引(修订征求意见稿)》公开征求意见,要求直播平台遵守公平公正原则并保护用户权益
- 蓝振波(关于蓝振波简述)
- 花溪之夏·避暑季 | 高坡云顶花海一键get清凉夏天
- 58股获北向资金加仓超5000万元
- 国际乒联第32周世界排名:申裕斌超越早田希娜,张本智和重返前四
- 再见姆巴佩!皇马乱了!选好替代者,提2条件,安切洛蒂答应了
- 湖北师范学院文理学院是几本(湖北师范学院)
- 南京工程公司以新气象新作为推动高质量发展
- 邋遢大王奇遇记 邋遢
- 蓝星花园(关于蓝星花园简述)
- 台媒:热盼“演唱会经济”带来台湾城市荣景
- 那一夜歌词(求《那一夜》 罗百吉 歌词)
- 德国MindFactory:AMD销量三倍碾压Intel!3D缓存卖疯了
- 讲到城际铁路,不得不讲到广东有关部门的短视、不顾经济效益蛮干
- 微信皮肤怎么设置成黑色的(微信皮肤怎么设置)
X 关闭