防范“野蛮生长”,规范引导AIGC向上向善
怎样判定生成式语言大模型会否“一本正经地胡说八道”?如何知道自动驾
2023-08-11怎样判定生成式语言大模型会否“一本正经地胡说八道”?如何知道自动驾驶系统能够抵抗得住外界恶意攻击?功能强大的AI(人工智能)大模型也需要“健康检测”,以确保其准确性、抗攻击性及安全性。
近日,上海首家生成式人工智能(AIGC)质量检验检测中心挂牌批筹,为AI大模型等智能软件提供专业化“体检”。挂牌两个月来,这家AI质检中心已出具75份“体检报告”。
在AI质检火爆的背后,折射出整个产业对于行业质量规范的渴求。尽管目前AI检测尚属于企业自主行为,但未来对于大模型安全性、可解释性、伦理风险的检测检验,将会形成国家强制标准。上海这一探索将在检测与标准同步发展的新模式下,对生成式AI产业的规范与引领产生积极影响。
【资料图】
给ChatGPT做测评,为AI系统“质量保障”探路
走进上海市北高新区区块链谷,筹建中的上海生成式人工智能质检中心里,一台台电脑中正奔跑着AI“体检”软件。
今年,ChatGPT带动了生成式人工智能应用的火爆。我国迄今已推出上百个大模型,如何客观地评价、比较大语言模型及其他AIGC模型的性能,成为大模型应用的关键一环。
上海计算机软件技术开发中心主任蔡立志介绍,软件中心是上海科学院的直属单位,作为一家长期以为网络安全保驾护航为使命的研究机构,从2016年起就关注人工智能的安全问题,迄今已开展了2000多项AI检测业务。
在多年技术与行业经验积累的基础上,经过近两年的准备,上海市生成式人工智能质检中心于两个月前在软件中心正式挂牌批筹。“挂牌后不久,我们就给ChatGPT做了一次测评。”上海计算机软件技术开发中心软件工程研究所副所长陈敏刚博士透露,测评的确可以对生成式语言大模型的推理、抗幻觉、理解用户意图等能力,进行客观评价。
蔡立志介绍,质检中心主要面向生成式人工智能所涉及的计算机视觉、自然语言处理、内容生成等领域,聚焦人工智能生成内容语义表达能力、逻辑推理能力、合成内容鉴别,以及功能、性能、安全性评估等,“通过提供全方位的测评服务,以保障人工智能系统或应用的质量”。
AI“体检”火爆,“守底线”更要引领产业
随着大模型技术的快速进步,在人工智能应用不断深入的同时,利用AI换脸、合成语音进行传播虚假信息、行骗等危害社会的现象也不断发生。
7月10日,国家网信办等七部委联合发文《生成式人工智能服务管理暂行办法》,明确了AIGC服务提供者的责任,包括信息源可信责任、生成内容合法合规责任、申报安全评估及算法备案责任。
“管理办法的落地,需要专业的第三方机构提供AI质量检验检测服务。”蔡立志透露,质检中心去年筹建期间已完成300多个AI质检项目,“正式挂牌仅两个月,就已出具75份相关检测报告”。
由此可见,为AI做“体检”的需求有多火爆。事实上,这项工作本身就是一项含金量极高的技术活儿。上海计算机软件技术开发中心副主任宋俊典告诉记者,对于一些大型复杂AI系统的检测,甚至需要根据应用场景专门搭建检测检验系统,耗时可能长达半年,同时还需要研发大量相关技术与标准。近三年来,上海软件中心为上海乃至长三角地区人工智能企业与应用方提供专业的第三方测评服务数年均超过500项,累计发布AI检测相关标准30余项。
“对于AI的质量检测,只有好与差之分,没有对与错的判断。”宋俊典解释,通过质检,厂商能更清晰地了解AI软件的性能,对产品的迭代与优化更有针对性。
检测检验是行业话语权的重要标志,检测标准往往是一个行业的发展风向标。然而,对于人工智能这个飞速发展的领域,蔡立志认为,不能简单套用传统产业“先立标准后检测”的“守底线”模式,而应采用检测与标准同步发展的新型模式,以起到规范、引领产业的作用。
据悉,目前AI检测尚属于企业自主行为,未来对于大模型的安全性、可解释性、伦理风险的检测检验,可能会形成国家强制标准。(文汇报记者 许琦敏)
来源:文汇报
标签:
怎样判定生成式语言大模型会否“一本正经地胡说八道”?如何知道自动驾
2023-08-11中央气象台8月11日10时继续发布暴雨蓝色预警:预计,8月11日14时至12日
2023-08-11甄子丹换成刘德华,看了谢霆锋新片阵容,我感慨:港片有了接班人,成龙,
2023-08-11据罗马诺和TA报道,利物浦1 1亿镑(1 21亿欧)签凯塞多达成协议,成功
2023-08-118月10日,中国银行(601988)融资买入3912 14万元,融资偿还4004 43万
2023-08-11本报杭州8月10日电(记者窦瀚洋)8月10日,浙江华捷新能源运营服务有限
2023-08-11截至2023年8月10日收盘,微导纳米(688147)报收于50 06元,上涨2 27%,
2023-08-11钟声:文过饰非,消除不了核污染水排海之害
2023-08-11穆迪下调美银行评级
2023-08-11美国众议院议长麦卡锡表示,共和党领导的众议院不会盲目批准任何空白支
2023-08-118月10日,易方达港股通红利混合最新单位净值为0 6498元,累计净值为0 6
2023-08-11香喜谷,喜谷的基本详情介绍很多人还不知道,那么现在让我们一起来看看
2023-08-118月10日碧桂园发布盈利警告,对比2022年6月30日半年度之净利润约人民币
2023-08-10光纤网络未来可望“预警天灾”武汉光迅科技成功研发地震监测新技术---
2023-08-10面对穿搭,每个人都会给出不一样的答案。那些能够保留好气质的大龄女性
2023-08-10大公关注成都经开产业投资集团有限公司涉及重大诉讼
2023-08-10吉利银河L7再次展现出强劲的“杀伤力”,成为新能源混动车型的领头羊。
2023-08-10神力股份:砺剑集团回购公司所持砺剑防卫57 65%股权:神力股份(603819
2023-08-10有很多逆水寒玩家还不了解逆水寒手游三清山词话花海任务怎么完成,以下
2023-08-10据“柳州发布”微信公众号8月10日消息,柳州市财政局原党组成员、副局
2023-08-10是国企苏州市健康养老产业发展集团有限公司(以下简称“苏州康养集团”)
2023-08-10一、政策依据1 《磐安县人才购房补助实施细则》(磐建〔2018〕104号)(附
2023-08-10北京市7月份CPI环比由降转涨0 4%同比上涨0 1%,鲜菜,cpi,北京市,非食品价格
2023-08-10中工网讯(记者杨召奎)大型国际性运动赛事正逐步成为数字人民币普及推
2023-08-10信洋说,对于因转移安置等原因暂时无法接收的邮件,特别是高考录取通知
2023-08-10今天小红来为大家带来的是中国烟草网络学校登陆不上,中国烟草网络学校
2023-08-101、主要人物形象分析阿廖沙:他的形象是俄罗斯一代新人的代表,他的成
2023-08-10点击收藏直播页面新海南客户端、南海网8月10日消息(记者周静泊)8月10
2023-08-10导读:1午评:三大指数小幅下跌燃气、油服板块爆发2次新股盟固利开盘闪
2023-08-10迪士尼第三财季营收223 3亿美元订阅用户数低于预期,第三财季,财务会计,
2023-08-10罕见14英寸超大平板!小米平板6Max14官宣
2023-08-10导读1、短语多属动词短语(verbalphrase)例如get这个动词配了不同的介词
2023-08-10同花顺数据中心显示,神州数码8月9日获融资买入6789 64万元,占当日买
2023-08-10新华社西安8月10日电题:陕西汉中:科技赋能助力产业向“绿”发展新华
2023-08-10“免费护理”变胁迫高额消费广东江门一美容院经营者等人犯强迫交易罪获
2023-08-10直播吧8月9日讯切尔西跟队记者NizaarKinsella消息,拜仁将凯帕加入了门
2023-08-10兰州开展柔性引才工作打造强省会人才集聚新高地 每日甘肃网兰州讯(
2023-08-10USB闪存驱动器一种用于存储信息的小设备,也就是U盘,很多用户都喜欢用
2023-08-10世界卫生组织当地时间9日表示,该组织正在追踪几种新冠病毒变异株,包
2023-08-10智通财经APP获悉,周三美股三大指数集体收跌,港股ADR指数下跌,按比例
2023-08-10本报讯江苏省苏州市中级人民法院判决某公司支付男职工李某15天护理
2023-08-10期待已久的手游高加索停车场版即将登陆九游,这款手机游戏吸引了大批玩
2023-08-10据媒体报道,8月9日7时许,在陕西省商洛市丹凤县蔡川镇的一个村子附近
2023-08-09文章目录1、玉米淀粉和木薯淀粉有什么区别2、木薯淀粉与玉米淀粉的区别
2023-08-09作为TEConnectivity泰科电子的授权分销商,Heilind可为市场提供相关的
2023-08-092022-02-18:日产汽车公司公布了2019年新款千里马的价格和详细信息。这
2023-08-09天康生物8月9日公告,2023年7月份销售生猪25 57万头,销量环比增长6 99
2023-08-09因台风渔船无法出海捕捞,推迟了近一周后,今年第一波东海梭子蟹终于来
2023-08-09今日,不少网友突然都在反映百度网盘崩了,电脑端、移动端都无法正常打
2023-08-09大家好,这里是阿呆的峡谷日记,将会给你带来王者荣耀最新的爆料内容。
2023-08-09文 纵观人间事编辑 纵观人间事前言“有鸟了,已经不想和没鸟的人说
2023-08-09立秋,既是“二十四节气”之第十三个节气,也是秋季的起始。立秋节气通
2023-08-09全球首台纯电驱动防弹轿车,基于i7豪华电车的要人保护专车,已经问世。
2023-08-09记者从住房城乡建设部了解到,目前各地保交楼工作顺利推进,项目复工和
2023-08-09中新网8月9日电据韩联社报道,随着2023年第6号台风“卡努”北上逼近,
2023-08-09财信证券08月09日发布研报称,给予东方电缆(,最新价:元)买入评级。
2023-08-09地理位置在中国江西省中西部。居罗霄山脉北支,山体呈东北——西南走向
2023-08-09昨天,在西充财政局附近,一辆四轮车辆不知怎的,就掉在了河道旁,车身
2023-08-09新华社北京8月9日电(魏玉坤、张树志)国家统计局9日发布的数据显示,7
2023-08-09“我们村有一部分耕地在山顶上已经撂荒成林了,复耕后可能还会面临撂荒
2023-08-09标题:人工智能在医学领域的应用和前景随着科学技术的不断进步和人工智
2023-08-098月8日,启迪环境(000826)融资买入651 27万元,融资偿还364 37万元,
2023-08-09近日,湛江市经开区民安街道邓某(女,28岁)为筹集胞弟结婚彩礼钱,自
2023-08-09黄河新闻网大同讯(记者安青)8月7日,山西省第四届马兰花创业培训讲师
2023-08-09IT之家8月9日消息,谷歌今天揭开了“ProjectIDX”项目的面纱,官宣这是
2023-08-09智通财经APP获悉中信建投601066发布研报表示在AI数据中心中越来越多的
2023-08-09罗体:小基耶萨新赛季将主打二前锋,更靠近球门发挥进攻能力,罗体,卢卡
2023-08-09大家好,今日关于【南京明孝陵石像风景3女子组团攀爬明孝陵景区石像】
2023-08-098月8日,正值我国第15个“全民健身日”。上海全市近800处公共体育场馆
2023-08-09隆华新材(301149)08月08日在投资者关系平台上答复了投资者关心的问题。
2023-08-09随着生活水平的提高,在出行的选择上大家也都是选择了汽车,那么我们在
2023-08-09截至发稿,该股跌超21%,报12美元
2023-08-08有网红在牺牲的房山蓝天救援队员家门口开直播房山蓝天救援队队长陈海军
2023-08-08灵魂承载者最近DNF要出双倍经验卡啦现在的远古精灵秘药(黄)是1 5倍经
2023-08-08从2021年左右的“华为智选”赛里斯SF5的亲密合作,助力其销量大涨,到
2023-08-088月7日上午,广西壮族自治区贺州市中级人民法院一审公开开庭审理了广西
2023-08-08荥阳市人民政府关于实施购房契税补贴政策的通知各乡镇人民政府,各街道
2023-08-08今日立秋今日2时23分迎来 立秋 节气立秋≠入秋江苏各地市常年入秋时间
2023-08-08办公椅是办公室的标配之一,在现代办公室,工作效率是老板一直注重的,
2023-08-08e公司讯,上海新阳(300236)8月8日晚间公告,拟以自有资金参与湖北国芯
2023-08-08中国电信公告,上半年净利润201 53亿元,同比增长10 2%,向全体股东派
2023-08-08商报全媒体讯(椰网 海拔新闻记者柯育超许文玉摄影报道)8月8日,“加
2023-08-08每经AI快讯,有投资者在投资者互动平台提问:请问贵公司,近年上半年上
2023-08-08逆水寒手游六元外观彩虹小马说明的问题原因是什么?逆水寒手游是一款非
2023-08-08现在我们越来越重视维生素的补充了,比如,孕妈妈都知道备孕期先吃叶酸
2023-08-08中国女乒包揽世界排名前四 【祝贺! 樊振东和孙颖莎世界排名第一 】当
2023-08-08穆雷坚称网坛新时代已来临,英国人反驳好友德约教练言论引发热议,温网,
2023-08-08甘源食品(SZ002991,最新价:80 6元)8月8日午间发布公告称,公司2023
2023-08-08注意:黄南目前暂时取消限行,有最新消息会及时更新,以下是旧限行规则
2023-08-08“充了儿童会员,又多出来个少儿会员,内容差不多却不能通用”“VIP
2023-08-08首发7499元雷神ZERO2023游戏本上架:13代i7HX+满血RTX4060
2023-08-08一、常州博物馆开放时间表博物馆名称开放时间常州博物馆常州博物馆开放
2023-08-081、临沂人口流动大,工作应该不难找,关键是又能力!。本文到此讲解完毕了
2023-08-08近日,河北区望海楼街社工站携手金钟家园社区、望海楼街道退役军人服务
2023-08-08新华财经北京8月8日电8月8日,从湖南省长沙市住房和城乡建设局网站获悉
2023-08-08很多人对阿斯顿·马丁DB9GTBondEdition登陆澳大利亚不是很了解那具
2023-08-08蔚来再现“以价换量”:ET5现车降价2 4万元,新车,现车,展车,库存车,电
2023-08-08上海长征医院视觉中国资料图8月7日,一张网传图片显示,近日海军军医大
2023-08-08中央气象台8月8日06时继续发布台风蓝色预警:今年第6号台风“卡努”(K
2023-08-08近日,云南交投临沧管理处孟定管理分处在去站点检查工作的路上,发现在
2023-08-08Copyright © 2015-2022 大西洋水产网版权所有 备案号:沪ICP备2020036824号-2 联系邮箱: 562 66 29@qq.com