科技日报首尔1月26日电 日前,韩国《关于AI发展和构建信赖基础的基本法》正式实施。该法针对AI发展一手扶持,另一手监管,旨在促进AI在经济发展和社会生活中被正确使用。
扶持政策方面,韩国科学技术信息通信部长官需每3年制定一次关于振兴AI产业、提升相关领域国家竞争力的基本规划;国家和地方自治团体须尊重创业者的创造精神,扶持相关产品、服务的研发工作。监管措施方面,政府需制定相关制度,将AI在国民生活领域的潜在风险降至最低,引导安全使用。为确保AI安全性和可信性,政府还需扶持相关技术研发、教育及宣传活动。

示意图片,AI生成
韩国业界认为,《关于AI发展和构建信赖基础的基本法》影响最大的三大条款是高影响力AI、AI使用标识(水印)和说明义务。高影响力AI指对医疗、能源、招聘、贷款审批等事关国民健康和权利的领域产生重大影响的AI,相关企业须在上述领域建立人工管理体系并采取安全保障措施。使用高影响力AI或生成式AI制作的产品和服务,需向用户告知相关事实并进行标识。上述条款引发AI模型和服务研发相关产业界的关注,认为监管或遏制技术开发。
韩国政府指出,有必要制定规范,保护社会免受深度伪造、虚假信息传播、人权侵犯等AI弊端的影响。不过,考虑到业界的担忧,韩国政府将通过推迟行使事实调查权和罚款措施至少一年等方式,推动制度“软着陆”。
记者薛严
(责任编辑:孟令娟)