
2024年5月21日,欧盟理事会正式批准了《欧盟人工智能法案》(EU AI Act)。一般来说,法案在经过欧洲议会和理事会主席签署后,将会很快在EU官方公报上公布,并于公布后的20日内生效。该法案成了全球范围内第一个正式的对于AI技术进行监管的法案。
历时四年的立法
该法案最早可以追溯到2020年。当年的2月,欧盟委员会发布了《人工智能白皮书》(White Paper on Artificial Intelligence)。当年10月,欧盟各国领导人在理事会首次对AI话题进行了辩论。
时间来到2021年4月21日,欧盟委员会正式在这天提出了《法案》。2022年12月6日,欧洲理事会通过了总体方向,允许和欧洲议会开始谈判。2023年12月6-9日,三天的马拉松会谈之后,欧盟理事会和议会终于达成了协议。
2024年3月13日,欧洲议会正式对该法律发起投票。投票结果是523票赞同、46票反对和49票期权,获得全面胜利。上周,即我们前面提到的5月21日,该法案获得了欧盟理事会的批准。但正如我们所述,此次此刻并不意味着该法案已经生效,不过无论如何,这已经只是时间问题了。
欧盟AI监管的核心理念——风险管理
其实欧盟法案的概念源自风险管理,也就是说真正监管的不是AI技术,而是该技术在社会特定领域的使用方式所具备的风险。根据该法案条例,共分为五类风险:首先是“不可接受的风险(Unacceptable risk)”、“高风险(High risk)”、“一般目的AI(General-purpose AI)”、“有限风险(Limited risk)”和“最小风险(Minimal risk)”。
由于法案将AI技术定义为“以人为本”的技术,应作为人类的工具,以增进人类的福祉,所以许多使用情形都被禁止,其中就包括部分金融机构、交易商在KYC等流程中所可能涉及的使用情形:
比如,在“不可接受的风险”中,明确列入了包括“操纵人类行为的人工智能应用程序、在公共场所使用实时远程生物识别(包括面部识别)的人工智能应用程序以及用于社会评分的应用程序(根据个人特征、社会经济地位对人们进行排名) 状态或行为)。”以上这些应用场景必须得到豁免后才能使用,因此,这一类别会影响到对信用评分、风险评估和欺诈检测等金融决策过程非常重要AI应用程序。
此外,在“高风险”类别中,还包括生物识别系统、关键基础设施的运行以及AI支持的人力资源软件(如申请工作的软件)。
交易商应该如何应对《法案》
可以看到,《法案》为了保证AI使用场景的透明度、准确性和公平性,做出了全面的风险评估和风险环节措施的规定。对于交易商在内的金融机构而言,如要避免新《法案》生效后出现违规行为,一定要进行彻底的风险评估,并采用有效的风险缓解措施进入AI在交易中的各类使用场景。
这就包括确保AI系统的数据质量;留存详尽的文档以提高透明度;履行对于投资者的信息披露义务;以及建立一套行之有效的人工监督机制。
还有一点,根据法案中对于“有限风险”的规定,意味着交易商在向用户提供诸如“聊天机器人”和“生物识别分类系统”等AI应用时,所生成的音频、视频和图像内容一定要标记为“AI生成”,方便用户选择是否进一步进行交互,这样才能免去自身的责任。
结语
对于交易商来说,《法案》的实施并不一味带来的是更高的合规成本,反而在AI监管框架内,交易商将比以往任何时候都更能赢得交易者的信任。毕竟,在保证AI运营符合法律规定和道德规范后,就有可能进一步实现市场竞争的差异化。
因此,交易商应尽快主动评估目前自身平台所使用的AI场景,以确定哪些场景更容易受到《法案》中高风险场景的影响,以及还有哪些新的监管需求尚未得到满足。
因此,交易商应尽快主动评估目前自身平台所使用的AI场景,以确定哪些场景更容易受到《法案》中高风险场景的影响,以及还有哪些新的监管需求尚未得到满足。
作者:xiao,文章来源fazzaco,版权归原作者所有,如有侵权请联系本人删除
Tuyên bố miễn trừ trách nhiệm: Quan điểm được trình bày hoàn toàn là của tác giả và không đại diện cho quan điểm chính thức của Followme. Followme không chịu trách nhiệm về tính chính xác, đầy đủ hoặc độ tin cậy của thông tin được cung cấp và không chịu trách nhiệm cho bất kỳ hành động nào được thực hiện dựa trên nội dung, trừ khi được nêu rõ bằng văn bản.
Website Cộng đồng Giao Dịch FOLLOWME: www.followme.asia
Bạn thích bài viết này? Hãy thể hiện sự cảm kích của bạn bằng cách gửi tiền boa cho tác giả.
Tải thất bại ()