世界人工智能大会【huì】：人工智能的应【yīng】用标准、体【tǐ】系化【huà】监管与安全伦理应当同步【bù】跟【gēn】进【jìn】

在智能【néng】社会里，如何建【jiàn】设数字【zì】治理生态【tài】，一直是行业的热【rè】议话题【tí】。7日，在2023世界人工智能【néng】大会的【de】多场相关论坛上，业内【nèi】专家和研究【jiū】人员【yuán】认【rèn】为【wéi】，在人【rén】工智能的发展进程中，应【yīng】用【yòng】标准、体系化监管与安全伦理应当【dāng】同步跟进。

“负责任”的人工智能

(资料图片仅供参考)

在上海杨浦滨江举【jǔ】行的智能社会论坛上，发布【bù】了多份重量【liàng】级的研究和实践成【chéng】果。同济大【dà】学【xué】研【yán】究团队【duì】发布了《人工智能大模型伦理规范操作指【zhǐ】引》和【hé】《生【shēng】成【chéng】式人工智能风险评【píng】估框架（1.0）》两份【fèn】专题【tí】研究成果，旨【zhǐ】在应对人工智能大模型的风险，推【tuī】动伦理规【guī】范【fàn】落地实【shí】施；同【tóng】济大学【xué】与【yǔ】百度研究团队联合发布了《面向新商业模式的【de】高级别自动【dòng】驾驶法【fǎ】律【lǜ】责任【rèn】白皮书【shū】》，关注全自动驾驶应【yīng】用场景的法律问题。

同济大【dà】学【xué】常务副校【xiào】长吕培【péi】明等专【zhuān】家认【rèn】为，人工【gōng】智【zhì】能【néng】既【jì】是引领【lǐng】当前这一轮科技革命和产业变革【gé】的战略【luè】性技术，也是推动城市治理生态和治理能力现代化的必由之路。应主【zhǔ】动整合多学科力量，搭建起“技术与社会【huì】”畅【chàng】通【tōng】的对话交【jiāo】流平台，应对智【zhì】能技【jì】术发展潜在的伦理、法律和【hé】治理风【fēng】险【xiǎn】与挑战，构建公平规范的数字治理生态，超前探索【suǒ】智能【néng】社会的运【yùn】行模式、法律法规、标准规【guī】范、政策体系和体【tǐ】制机【jī】制，推动发【fā】展“负【fù】责任的人工智能【néng】”。

上海杨【yáng】浦作为全国【guó】首批10个【gè】国家智能社会治理实验综合基地之一，正加强人工智【zhì】能【néng】研【yán】发【fā】与应用活动的【de】引导，实现人工智【zhì】能产业【yè】规范与发展【zhǎn】的动态平【píng】衡【héng】，打造智能治理的新样板【bǎn】。

大模型的风险管理

推【tuī】进大模【mó】型的创新和【hé】应用【yòng】，同步也要加强大模型的【de】风险管理与行业治理。在上海西岸举行的“大模【mó】型【xíng】时代的通用【yòng】人工智【zhì】能产业【yè】发【fā】展机遇以及风险【xiǎn】”主题论坛上，上海市经济【jì】和信【xìn】息【xī】化【huà】委【wěi】员【yuán】会相关【guān】负责人表【biǎo】示，上海作【zuò】为【wéi】人工【gōng】智能创新高地与“先【xiān】行区”，在积极打造具【jù】有国际影响【xiǎng】力的世界级产业集【jí】群的同时，坚持科技向善【shàn】理念，持续推进人工智能健康规范【fàn】发展。

据介绍，上海积极推进大模型【xíng】技术的创新【xīn】和【hé】应【yīng】用，系统性支持技术攻关、算力供给、数据集建设【shè】和公共服务需求；布局科【kē】学智能，推【tuī】进科学智能赋能生物医药【yào】、集成电路、高【gāo】端装备和先【xiān】进材料【liào】等创新【xīn】应用；提升智能【néng】机器【qì】人在复杂场景下的【de】智【zhì】能【néng】能力。

与【yǔ】此同【tóng】时，上海正在加快完善【shàn】行业治理体系，面向人工智【zhì】能的关【guān】键领域，加快【kuài】制定技术、产品【pǐn】、服务、行业【yè】应用、安全伦理等标准，在健【jiàn】全法规、标【biāo】准【zhǔn】、监【jiān】管体系等【děng】方【fāng】面，努力形成上海特【tè】色方案。

上海目前已【yǐ】经启动高风险人【rén】工智能产品和服务清【qīng】单式管理【lǐ】的相关研究，并积极推动大模型【xíng】相关【guān】治【zhì】理研究；建【jiàn】立【lì】健全大模型【xíng】评测体系【xì】，建设大【dà】模型【xíng】评测中心，探索大模【mó】型自动化评测工【gōng】具；探索适应大模型特【tè】点【diǎn】的创新监管【guǎn】方式。

上海将搭建更多【duō】研讨平台，引导产业【yè】人士参与科技【jì】创新实践；积极参与【yǔ】国际【jì】人工智能治理规【guī】则的制定和实施，推【tuī】动人【rén】工智能【néng】伦【lún】理【lǐ】标准的互认和协调，共【gòng】同推【tuī】进人工智能造福人类。

扶持与合规并重

为打造大模型和【hé】生成式人工智能生【shēng】态【tài】集聚和创新【xīn】应用高地，上海徐汇此次率【lǜ】先【xiān】推出了面【miàn】向生成式人工【gōng】智【zhì】能【néng】的扶持政策【cè】，直面企业需求和产业关切。

15条具体【tǐ】举措，聚【jù】焦技术强基支【zhī】撑，支持【chí】通用大模型、垂【chuí】类【lèi】大模型等关键领域自主创新【xīn】，支持具身智能【néng】、自主智【zhì】能体等前沿领【lǐng】域布【bù】局；聚焦【jiāo】场景【jǐng】应用示范，充分发挥徐汇特色【sè】产【chǎn】业基础和新赛【sài】道先【xiān】发【fā】优势，全面推【tuī】动【dòng】生成式人工智能技术在医疗、金融、社交、智能【néng】网联汽车等【děng】领域【yù】融合赋能【néng】；聚焦创新生态构建，针对算力、数据、算法【fǎ】、融资【zī】、人才、监管【guǎn】等关键环节，强化要素支撑。

2022年，上海【hǎi】徐【xú】汇人工智能产业规模已近【jìn】千【qiān】亿元，近五年年均增速达【dá】到30%以上【shàng】；在大【dà】模【mó】型和生成式人工智【zhì】能细【xì】分领域，已经汇聚相关企业近200家，其中核心企【qǐ】业30余家，成为上【shàng】海乃【nǎi】至【zhì】全国【guó】大【dà】模型的策源地之一。

在上【shàng】海，智能社会治理获得同等的关注。此次【cì】，上【shàng】海杨浦揭牌成立了“人工【gōng】智能合规【guī】服【fú】务中心”，将【jiāng】发【fā】挥同济大学的智力与技术资【zī】源优势与杨浦区的实践优【yōu】势，为企业的【de】人【rén】工智【zhì】能新技【jì】术新应用，提供合【hé】规指【zhǐ】引、咨询和服务。