欧盟即将出台首部AI法案：强调以人为本，AIGC需标明训练数据版权

2023-12-12 13:45:18 全民手机站评论全民

　　经过了半年的酝酿之后，全球首部AI法案终于在上周末形成了初步协议。

　　12月9日，欧盟委员会成员Thierry Breton在社交媒体称，“欧洲成为首个清晰敲定了AI使用法规的大陆，AI法案(AI Act)不只是一个规则手册，它是欧洲初创公司和调研者引领全球AI竞赛的发射台。”

欧盟即将出台首部AI法案：强调以人为本，AIGC需标明训练数据版权

　　据路透社报道，欧盟国家和欧洲议会成员在经历了接近15个小时的谈判之后终于达成了协议，此前一天还进行了将近24小时的辩论。双方还将在未来几天敲定细节，最终立法还有可能会变化。

　　对于游戏业内较为关心的版权归属问题，法案给出的规定是必须让用户有知情权（即告知用于他们在使用或者与AI内容互动），还必须明确标出受版权保护的数据摘要，意味着AIGC内容版权需要视训练数据的版权归属决定。

全球首个AI法案初步成型

　　作为最近一年多来红遍全球的创新技术，AI的优势和争议都很明显。业内已经有不少公司开始通过生成型AI进行创意迭代或者提升研发效率，甚至还被越来越多地运用到手游买量领域。然而，对于版权的担忧，以及可能引发的行业裁员，也是这项技术被怀疑、被特定行业抵制的原因之一。

　　欧盟想要监管AI以确保这项创新技术更好的研发和使用条件。AI可以创造很多利益，比如更好的意料、更安全和整洁的交通、更有效率的制造，以及更廉价和更可持续的能源。在2021年4月份，欧盟委员会提出了首个欧盟AI监管框架，该框架表示，可以用于不同应用的AI系统将根据其对用户构成的风险进行分析和分类。不同的风险水平将意味着或多或少的监管，一旦获得批准，这将是世界上第一条关于AI的监管规则。

　　欧盟在AI法案介绍的时候提到，“鉴于这些技术的快速发展，AI监管已经成了欧盟的核心政策问题，政策制定者承诺制定‘以人为本’的AI法案，以确保欧洲人能够从先进的新技术中受益，并根据欧盟的价值观和原则运作。”

欧盟即将出台首部AI法案：强调以人为本，AIGC需标明训练数据版权

　　欧盟议会的首要任务是确保欧盟使用的AI系统是安全、透明、可追踪、非歧视和环保的。AI系统应该由人来监督，而不是由自动化来监督，以防止有害的结果。这个法案要求ChatGPT这样的基础模型和通用AI系统在投放到市场之前遵守透明度义务。这些包括起草技术文件、遵守欧盟版权法以及传播有关训练内容的详细摘要等。

　　简而言之，就是，带有系统性风险的高影响力基础模型必须进行模型评价、评估和减轻系统性风险，进行对抗性测试，向欧盟委员会报告严重事件，确保网络安全，并报告其能源效率。存在系统性风险的通用AI可能会依据行业准则来遵守新法规。

　　Thierry Breton告诉媒体称：“欧盟将自己定位为先驱者，理解其作为全球标准制定者角色的重要性，我相信，今天是具有历史意义的一天”。

　　AI法案还对不同风险程度做出了差异化的规定，主要分为不可接受的风险等级、高风险和有限风险。

　　不可接受的风险AI系统指的是被认为会给人们带来威胁的系统，而且将被封禁，它们包括：

　　1)对人或特定弱势群体的认知行为操纵：例如，鼓励儿童危险行为的声控玩具;

　　2)社会评分：根据行为、社会经济地位或个人特征对人进行分类;

　　3)实时和远程生物识别系统，如面部识别。

　　一系列例外情况是被允许的：例如，“后”远程生物识别系统，如果在重大延迟后进行识别将被允许用于起诉严重犯罪，但仅在法院批准后才能进行。

　　高风险指的是对安全或基本权利产生负面影响的AI系统将被视为高风险系统，并将分为两类：

　　1)在欧盟产品安全立法范围内的产品中使用的AI系统，这包括玩具、航空、汽车、医疗设备和电梯。

　　2)AI系统分为8个必须在欧盟数据库中注册的特定领域：自然人的生物识别和分类;重要基础设施的管理和运营;教育和职业培训;就业、工人管理和自主创业机会;获得和享受基本私人服务、公共服务和福利;法律执行;移民、庇护和边境管制管理;法律解释和法律适用里的协助。

　　所有高风险AI系统将在投放市场之前，包括在它们的生命周期之中，都要进行评估。