立法防范利用人工智能造假 为AI赋能各行业排除隐忧

立法防范利用人工智能造假 为AI赋能各行业排除隐忧

• 来源:网络
• 更新日期:2020-05-25

摘要： AI技术是否安全可控、AI对个人信息和隐私权的威胁、如何防止利用AI技术实施诈骗等议题，成为当前社会热议的焦点。而相比于技术的快速发展和公众对风险的高度关注，人工智能领

 AI技术是否安全可控、AI对个人信息和隐私权的威胁、如何防止利用AI技术实施诈骗等议题，成为当前社会热议的焦点。而相比于技术的快速发展和公众对风险的高度关注，人工智能领域的法律法规及政策标准还较为滞后，行业发展缺乏有效的引导和规制。

《新一代人工智能发展规划》提出了我国人工智能发展的“三步走”战略目标，建立人工智能技术标准、法律法规、伦理规范和政策体系在每一步中都是重要的组成部分。合成技术作为人工智能的一个分支，已经进入相对成熟的阶段。有效引导及适当规范对于促进行业长久发展和推动新技术与传统产业融合具有迫切性，也有利于为人工智能其他细分领域政策及标准的制定提供借鉴。

王小川委员在提案中提到，目前针对人工智能合成技术做出规定的政策都较为笼统，没有依据不同场景实施分类指导，也并未提及对技术滥用的防伪、鉴别和反制。受此影响，不同产业在应用合成技术时，普遍存在现行规定不适用或应用风险不可控的问题，成了制约新技术与传统产业融合发展的因素。另一方面，AI合成技术虽然已经历一段时间的快速发展，有大量的市场参与者，但真正有效的、反映行业发展现状的技术标准，还没有确立。这导致对虚假合成音视频的防伪鉴别无章可循。

王小川

对此，王小川建议：

一是通过立法实施分类监管，依据不同的应用场景精准施策，防止技术滥用。建议通过立法形式，根据人工智能合成技术的使用场景、影响范围、可能的危害程度，鼓励各行业各领域主管部门加强研究、分类监管，打击非法利用，鼓励开发鉴别防伪技术，为人工智能技术的普及营造健康有利的环境。在传媒、金融、教育、医疗等领域，注意防范特定风险，鼓励利用合成技术增加供给、提高效率、丰富形态，不断提高监管的精细化、精准化水平。

二是加快制定行业规范和技术标准。建议由行业协会和联盟牵头，广泛联合人工智能合成领域的重点企业、领先企业，共同制定可行的行业规范和技术标准，建立行业参与者广泛认同的框架协议，为反制技术滥用奠定基础。例如，对于人工智能合成技术服务提供方，在服务器安全、api接口调用、数据安全管理等方面提出限制性要求；针对合成类视频，通过技术标准，使用视频水印等方式，限定技术的输出渠道，做到非法视频的可监控、可追溯。

人工智能赋能健康扶贫 科技助力脱贫攻坚

在导致贫困发生的多个原因中，因病致贫是最重要的原因之一。解决因病致贫、因病返贫问题，是打赢脱贫攻坚战的难中之难。根据国家卫健委数据，因病致贫、因病返贫的比例，在我国建档立卡贫困户中高达42%以上。而患病的农村贫困人口中，有40%以上年龄在15岁至59岁。而这部分人群，恰恰是家庭的主要劳动力。一旦他们患病，高昂的治疗费用和无法劳动导致的收入减少，都会使家庭陷入贫病交加的境地。

而人工智能技术可以帮到他们。新冠肺炎疫情发生以来，人工智能、大数据、5G等技术以多种形式、在多种场景中参与疫情防控。如今，疫情防控进入下半场，王小川委员表示，应该把握住这一时期留给我们的经验和机会，将信息化和智能化在抗疫中发挥的作用和成果，下沉到基层和乡村，服务更多的医疗卫生机构和医护人员，推动社区公共卫生和乡村医疗卫生补齐短板，落实预防为主、防治结合，巩固脱贫攻坚成果。

目前，新一代信息技术在医疗领域的应用和推广层面，仍然面临一些障碍和困难。首先由于基层医生对于新产品的接受程度还很有限，一些基于人工智能技术开发的产品，在农村地区的利用率不高。其次，农村居民难以和家庭医生形成双向联动，很多人将小病拖成了大病、轻症拖成重症。人工智能虽然具备健康咨询、营养建议、医学科普信息推送、健康风险主动提醒等优势，但没有发挥到应有的价值。再者，家庭医生工作负荷饱和，现有的对家庭医生的考核和结算方式，大多是基于行为考核，致使在利用新技术等更多社会力量改善服务效果方面积极性不高。

对此，王小川委员提出三点建议：

一是提高产品精准化水平，因地制宜开发推广。建议鼓励各类机构依据农村医疗机构检查检验设备、家庭医生人力精力及诊疗水平等实际情况，开发出适应基层农村需求、服务家庭医生需要的人工智能产品。在提供产品的同时，强化后续服务支持，让产品和服务长期落地，真正实现对家庭医生的赋能。

二是加强人工智能推广应用，提升预防保健水平。建议加大人工智能技术和产品推广力度，将此类互联网工具融入家庭医生的主要工作流程中，并加大培训和宣传力度，让家庭医生和居民真正接受人工智能产品，并享受其带来的预防保健提升成果。

三是优化家庭医生考核和结算方式，加强结果考核。建议逐步改革现行考核和结算方式，纳入居民满意度、家庭医生续签率、慢性病患病率、县外就诊率等结果作为考核和结算依据。同时，将短、中、长期的考核相结合，并设置不同类型的考核指标，如在短期内重点关注满意度和信任度等结果指标，在中长期重点考核疾病控制率等。通过关注结果的考核结算方式，引导家庭医生在服务过程中主动提高效率、提升品质。另外，将人工智能产品提供商纳入效果考核范畴，结算方式与效果考核挂钩。