“我们也希望,中国的企业也好,国外的企业也好,大家在人工智能领域能够有更多的好成果。同时,我们还要注意,怎么样规范科技伦理,趋利避害。”这是科技部部长王志刚在十四届全国人大一次会议第一场部长通道上对近期国内外市场高度关注的Chat GPT热点的回应。

随着AI技术的快速发展和广泛应用,人工智能伦理问题亦受到各界关注。以往科技伦理的讨论更多浮于理论层面,距离实践活动还有较远的距离,但从Chat GPT的亮相到GPT-4的发布,人工智能一次又一次刷新着人类的认知,AI进入到人类的日常生产生活或许也只是时间问题。

人工智能对于提升各行业生产效率、优化社会管理等方面发挥重要作用,但也会带来算法歧视、个人隐私泄露等法律、伦理道德方面的问题。近些年来,在企业IPO实务中,数家科技公司在申请上市时均受到来自监管部门关于科技伦理方面的问询。本文将整合案例,总结监管部门对于科技伦理的审核要点和企业需要履行的责任。

一、科技伦理方面的规定

自20世纪90年代起,我国陆续颁布了科技发展相关法律法规和政策,科技伦理的规定散见于这些规范性文件中,包括《促进科技成果转化法》(国发〔2016〕16号)、《科学技术进步法》(中华人民共和国主席令2021年第103号)、《关于加强科技伦理治理的意见》(中共中央办公厅和国务院办公厅联合2021年印发)等。

这些规定中,2022年3月20日国务院正式印发的 《关于加强科技伦理治理的意见》(以下简称《意见》)整合了多项规定,并建设性的提出了关于科技伦理方面的治理建议,将我国科技伦理建制推入到新的阶段,明确指出要加快构建中国特色科技伦理体系,健全多方参与、协同共治的科技伦理治理体制机制。

《意见》首先对科技伦理进行了定义

然后对科技伦理的治理要求提出五项标准伦理先行、依法依规、敏捷治理、立足国情、开放合作

其次明确了科技伦理的原则增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明

在监管和审查方面,《意见》也明确了一些细则

最后压实了创新主体(包含企业)需要履行的责任

二、涉及科技伦理的IPO案例

一、浙江****科技股份有限公司(2023年3月15上会被否,3月17日IPO终止)

相关问询内容:

问题4、关于科技伦理

根据申报文件及问询回复,发行人产品和服务中涉及患者信息,发行人的核心技术包括人工智能技术等。

请发行人:(1)补充说明业务开展中是否涉及科技伦理敏感领域及管理情况,是否符合《科学技术进步法》《中共中央办公厅国务院办公室关于加强科技伦理治理的意见》等相关规定,相关经营活动是否存在合规风险;(2)在招股说明书中补充披露是否涉及科技伦理相关情形

重点回答内容:

《关于加强科技伦理治理的意见》于2021年12月17日经中央全面深化改革委员会第23次会议审议通过,中共中央办公厅、国务院办公室于2022年3月21日印发,指导意见对加强科技伦理治理、防范伦理风险提出了指导性意见。根据2022年3月24日中华人民共和国科学技术部《关于加强科技伦理治理的意见》新闻发布会(文字实录),“这是我们国家第一次出台有关科技伦理治理的意见,填补了我们国家在这方面的空白”。当前,相关配套法规及实施细则尚待出具,该意见暂未明确科技伦理敏感领域的范畴

为了进一步厘清科技伦理敏感领域的范畴,发行人查询了多家公司公开披露的《招股说明书》、定期报告等披露文件及公开新闻等,上述公开信息中均未提及“科技伦理”的相关内容。除此之外,发行人进一步查询了其他上市公司/拟上市公司关于是否涉及科技伦理敏感领域的信息披露情况,相关披露内容具体如下:

由上表可见,相关案例中合合信息虽然应用了人工智能技术,但不涉及对人类的声音、指纹、脸部特征等敏感的生物信息的识别,故不涉及科技伦理敏感领域格灵深瞳主营业务为提供人工智能产品及解决方案,其业务范围聚焦在人工智能领域,向客户交付的人工智能产品,涉及人脸检测、识别,故其业务范围涉及相关科技伦理敏感领域,因此设置了人工智能伦理审核小组

发行人是生命科学产业数字化解决方案提供商,但并非临床试验项目的直接主导方(即医药企业申办方、医院/临床研究机构),发行人的主营业务系为临床研究相关方提供信息系统支持和相关服务,所参与临床试验项目由医院/临床研究机构伦理委员会审查通过。发行人虽使用了部分人工智能技术提升部分临床试验步骤效率、试验数据质量,但不涉及对人类的声音、指纹、脸部特征等敏感的生物信息的识别,故根据现有法规,发行人业务开展不涉及科技伦理敏感领域

报告期内,发行人未发生科技伦理方面的客户投诉、纠纷事件或媒体报道,也未发生违反科技伦理方面的法律法规受到行政处罚的情形。发行人开展的业务活动不存在危害社会安全、公共安全、生物安全和生态安全的情形,也不存在侵害人的生命安全、身心健康、人格尊严,侵犯科技活动参与者的知情权和选择权,以及资助违背科技伦理要求的科技活动的情形,符合相关法律法规规定的情形。”

二、上海****生物科技股份有限公司(2023年3月31日因财务资料过期中止)

相关问询内容:

问题六、关于免疫细胞治疗的行业监管‌

根据申报材料及公开信息,(1)发行人主要研发CAR-T等免疫细胞治疗产品。CAR-T等产品属于经过基因修饰的免疫细胞,兼具细胞治疗和基因治疗的特征。细胞治疗药物的研发生产属于鼓励外商投资的领域,但基因治疗技术的开发应用属于禁止外商投资的领域。保荐机构认为,发行人属于内资企业,但间接股东层面存在少量境外持股主体。保荐机构查询了同行业已上市企业对细胞免疫治疗业务是否属于禁止外商投资的业务的披露情况;(2)区别于传统药物,免疫细胞治疗产品属于“活”的药物。近年来主管部门陆续出台相关政策法规、技术指导原则,对细胞和基因治疗药物的研发生产和使用等各环节提出了较高的监管要求。

请发行人披露:(1)细胞治疗行业的监管体系,包括主管部门及其职责分工,相关产品研发、生产和使用,以及生物安全和科技伦理等方面的监管要求,与传统药品的差异;

重点回答内容:

1、科技伦理相关政策法规

包括细胞治疗产品在内的药品研发、生产及使用均需遵守科技伦理的相关规定,暂无特定针对细胞治疗产品的监管规定

对于药品研发、药品生产、药品使用、生物安全以及科技伦理方面的监管要求与传统药品的差异已于招股说明书“第六节业务与技术”之“二、发行人所处行业及其监管政策”之“(二)行业主管部门、行业监管体制和主要法律法规政策”之“2、行业主要法律法规政策”进行补充披露。

2、伦理委员会审批批件

根据《药品注册管理办法》第二十五条规定,开展药物临床试验,应当经伦理委员会审查同意。截至报告期末,发行人在就相关免疫细胞治疗产品开展临床试验前均已依法提交医疗机构的伦理委员会审查并取得相关批准

三、杭州****技术股份有限公司(2022年7月22日已问询)

相关问询内容:

问题4、关于行业监管及业务合规性‌

根据招股说明书:1)2014年以来,国家出台一系列举措,对基于高通量测序技术的基因检测服务行业进行监管和规范;2)公司的基因检测科研服务业务虽不受医疗行业监管,但基因检测技术在临床医学方向的应用,以及开发基因检测相关的仪器与试剂产品,须接受各级卫生、药监部门的行业监管;相关监管措施包括监督检查、生产经营和执业许可等;3)公司将拓展临床检测市场,研发相关医用检测试剂盒产品。

请发行人说明:(3)发行人相关基因检测科研服务等业务是否符合国家有关科技伦理政策要求,相关科研服务是否采取有效措施充分保护参与者的个人隐私、知情权和选择权,相关科研风险防范及重大、敏感伦理问题的科技活动披露情况,相关科研服务业务是否涉及科技伦理敏感领域,是否属于应当建立科技伦理(审查)委员会范畴;如是,请一并说明科技伦理(审查)委员会相关审查或委托审查实施情况

重点回复内容:

根据《中共中央办公厅国务院办公厅关于加强科技伦理治理的意见》的相关规定,科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范。高等学校、科研机构、医疗卫生机构、企业等单位要履行科技伦理管理主体责任,建立常态化工作机制,加强科技伦理日常管理,主动研判、及时化解本单位科技活动中存在的伦理风险;根据实际情况设立本单位的科技伦理(审查)委员会,并为其独立开展工作提供必要条件。从事生命科学、医学、人工智能等科技活动的单位,研究内容涉及科技伦理敏感领域的,应设立科技伦理(审查)委员会。

发行人所进行的科研类技术服务及大健康类技术服务和其他科研类技术服务仅就客户提供的有关样本进行检测并出具相关报告或提供有关数据,其提供的该等相关技术服务并未直接进行生物医学研究活动;链康医学所进行的肿瘤检测技术服务业务同样未直接进行生物医学研究活动。

并且,发行人在开展业务过程中,所涉及的样本均由客户提供,发行人并未直接采集客户样本,客户在提供相关样本时均已进行脱敏处理,发行人取得样本后将进行编码,并在检测过程中以编码指代样本信息,从而实现信息的保密处理;并且,发行人会严格将有关样本用于客户同意的检测事项,不会用于任何其他用途,检测形成的有关数据信息和检测报告等均仅提供给对应客户,不会向客户之外的第三方予以提供或以其他用途使用。此外,发行人就多余的样本会根据客户要求予以退还或销毁。

因此,发行人并非伦理审查工作的管理责任主体,无需建立科技伦理(审查)委员会,其前述业务不存在违反国家有关科技伦理政策要求的情况。此外,发行人已经建立了充分保护个人隐私等事项的有效措施。

四、奥比**科技集团股份有限公司(2022年5月17日注册生效)

相关问询内容:第一轮问询

4.2 根据招股说明书,发行人的定位是在万物互联时代为智能终端打造“机器之眼”,发行人在研项目包含若干人工智能领域的研发。

请发行人说明:公司在研发和业务开展过程是否存在需要遵守伦理相关规范和标准的情形,若是,结合境内外法律法规、技术规范、行业共识等,进一步分析公司在保证人工智能技术可控、符合伦理规范的措施和规划,公司在技术开发和业务开展过程所面临的伦理风险

重点回复内容:

1、发行人保证人工智能符合伦理规范的措施公司在内部建立了伦理审查机制,并积极提升员工在人工智能伦理方面的培训和管理,具体如下:

(1)建立信息安全与数据合规委员会

公司建立了信息安全与数据合规委员会,信息安全与数据合规委员会负责对公司的技术和产品的研发进行安全、可追溯、可追责等法律、伦理方面的审查和监督

(2)开展员工培训

公司定期对员工进行数据安全、个人隐私保护以及人工智能伦理相关的培训,引导员工自觉践行科技伦理原则。此外,公司要求所有接触采集数据的员工签署专项保密协议,要求核心研发人员签署重要数据及个人信息保护承诺书,以提升员工的数据合规以及人工智能伦理意识。

(3)积极参与行业组织活动,积极落实人工智能伦理准则

公司与深圳市人工智能行业协会、旷视、科大讯飞等数十家人工智能企业共同发起首份《新一代人工智能行业自律公约》,该《公约》包括坚持以人为本、促进正义公平、确保安全可控、注重隐私保护、促进包容共享、确保权责明晰、加强协同合作、健全行业标准等8个方面,例如在促进正义公平方面,提出提升人工智能算法决策的透明度,从算法决策、编码设计以及商业应用等不同层面,确保人工智能的设计与应用公平、合理、无歧视,在注重隐私保护方面,人工智能应加强个人对数据的控制,防止数据滥用。

相关问询内容:关于发行注册环节反馈意见落实函的回复意见

问题2、关于数据合规与科技伦理

请发行人:(1)结合自身技术特点,产品的应用场景,数据合规和科技伦理方面的法律法规、政策等,说明相关情况是否影响发行人下游行业的发展,进而影响发行人的持续经营能力;(2)充分披露数据合规和科技伦理方面的法律法规、政策对发行人技术商业化带来的不利影响

重点回复内容:

在科技伦理方面,《关于加强科技伦理治理的指导意见》对加强科技伦理治理、防范伦理风险提出了指导性意见。

相关数据合规和科技伦理方面的法律法规、政策对数据采集及运用的集、运用进行规范,以更好地维护社会公众利益及规范社会秩序,短期可能导致相关行业发展波动,但长期将规范引导相关行业的可持续发展。

五、北京**深瞳信息技术股份有限公司(2022年1月11日注册生效)

相关问询内容:

5、关于科技伦理和数据安全

招股说明书披露,公司主要从事计算机视觉技术和大数据分析技术的研发和应用。

请发行人披露:(1)公司在保证人工智能技术可控、符合伦理规范的措施和规划;(2)公司训练数据的获取方式及其合规性,发行人是否存在超出相关授权许可主体许可使用范围、期限使用数据的情形;公司业务中“技术服务”的具体内容,提供技术服务过程中是否存在违规获取或处理相关数据,侵犯个人隐私或其他合法权益的情形;

重点回复内容:

发行人在人工智能技术可控、符合伦理规范方面,主要从组织架构、内部制度、技术手段、人员管控、伦理审查等方面采取了具体措施和规划,情况如下:

1、组织架构

公司设立信息安全管理委员会,总体负责制定公司信息安全及数据合规的措施和规划;公司的技术委员会下设人工智能伦理审核小组,总体负责公司人工智能技术的伦理规范审查。公司运营中心、产品方案中心、智能分析系统研发中心、智能硬件研发中心和各事业部等内部部门负责贯彻实施信息安全及伦理审查的方针和政策。公司总经理、中心级别管理层、各部门负责人、项目经理负责组织及具体执行相关制度及规定。公司以数据安全和伦理规范为导向,自上而下的分解组织目标,依托信息安全及伦理审查的制度体系,实行落实到个人、具体到操作的数据信息管理措施,保障公司数据信息的安全合规性及伦理规范性。

2、内部制度

公司根据ISO27001、ISO20000等国际标准,建立了数据安全、伦理审查相关内部制度,具体包括《人工智能伦理审查管理制度》《网络信息安全管理办法》《敏感信息数据管理制度》《数据分级管理制度》《信息安全问责管理制度》《网络与信息安全应急管理制度》等。

公司根据上述制度制定了程序性文件,从风险评估、信息管理、伦理审查等方面规定了具体的操作流程,具体包括《信息安全风险管理程序》《信息分类及账号安全管理程序》《数据库管理控制程序》《信息系统访问与使用监控管理程序》等。

3、技术手段

发行人对数据获取、传输、训练、使用、存储、备份及处置等数据生命周期的各个环节均提供相应的安全技术保障措施,确保数据安全合规,具体情况如下:

4、人员管控

(1)公司与所有员工签署了保密协议,约定员工在职期间及离职之后对公司的商业秘密(其中包括数据信息)负有保密义务;对于违反保密义务的人员进行惩戒,包括但不限于警告、辞退等,情节严重的,依法追究法律责任。

(2)公司定期进行数据安全合规、敏感信息保护相关的信息安全教育和培训,提升全体员工的数据安全防范和伦理规范意识,对关键岗位人员进行额外的培训与交流,优化内控决策结构和程序,培养员工正确的数据安全和敏感信息保护观念。

(3)公司严格管理账户权限系统,根据员工的工作职责配置必要、“最小授权”的原则分配账户权限,所有账号必须对应到专人;相关权限的授予及变更,必须通过内部流程审核授权;提升账号系统的密码复杂度,定期强制重置账号密码,防范密码泄漏;定期对人员的访问权限进行审核,员工离职前将进行信息安全核查。

(4)公司执行责任到人及负责人连带的责任追究制度,负责人有义务主动检查团队是否有违反相关规定的行为,督促整改,对于造成严重后果的问题,违反规定者为第一责任人,负责人为连带责任人,追究第一责任人以及连带责任人的责任,包括但不限于警告、罚款以及降低绩效、辞退等,对于明知故犯且造成严重后果的员工,加重处罚,保留追究其法律责任的权利。

5、伦理审查

在技术研发到产品落地的产品生命周期中,公司均履行了相应的科技伦理审查程序,具体如下:

(1)项目立项阶段,充分论证应用场景对人和社会的影响,例如是否符合社会主义核心价值观、是否尊重个人隐私、是否有利社会发展、是否充分保证技术可控、数据安全等;

(2)产品设计阶段,贯彻以人为本,围绕人的安全、分工、互动等进行设计,充分考虑人工智能系统的不足与优势,发挥使用者的主观能力,坚持系统由人主导、靠人决策的原则;

(3)产品技术开发阶段,严格保护数据与隐私安全,关注算法训练过程中数据分布可能带来的歧视,杜绝由于算法安全原因可能带来的可靠性风险;

(4)产品方案交付阶段,充分保护用户数字资产与个人隐私,坚持算法与数据的高透明与可解释性的原则,与用户进行积极的互动,推动在实际使用中的风险问题的快速解决与高速迭代。

6、保证人工智能技术可控、符合伦理规范的规划:(1)完善内部制度体系(2)提高人员管控效率(3)优化技术手段(4)增强开放合作

六、**科技有限公司(2021年9月30日提交注册,2023年3月31日因财务资料过期中止)

2021年5月,**科技成为首家被问及科技伦理的企业,随后2021年7月28日,科技部发布了《关于加强科技伦理治理的指导意见 (征求意见稿) 》,2022年3月20日国务院正式印发了 《关于加强科技伦理治理的意见》。

相关问询内容:

20.2 招股说明书披露,中国电子技术标准化研究院发布了《人工智能标准化白皮书(2018版)》形成了人工智能标准体系框架,并对基础、平台/支撑、关键技术、产品及服务、应用以及安全/伦理等六大方面的人工智能标准化工作进行战略部署。发行人目前在研项目包括人工智能安全与伦理研究中心,旨在研发面向数据全生命周期保护的数据安全和隐私保护基础平台。

请发行人补充披露:公司在人工智能伦理方面的组织架构、核心原则、内部控制及执行情况

请发行人说明:(1)公司在研发和业务开展过程中落实相关责任、遵守伦理相关规范和标准的措施及执行情况;(2)结合境内外法律法规、技术规范、行业共识等,进一步分析公司在保证人工智能技术可控、符合伦理规范的措施和规划,公司在技术开发和业务开展过程所面临的伦理风险

重点回复内容:

公司高度重视人工智能落地过程中的道德伦理问题,在实践中搭建了以董事会总体负责,人工智能道德委员会负责伦理道德在研发学术、产品工程、客户渠道以及内部运营四个方向的适用,AI治理研究院探索人工智能治理的组织架构

2019年7月17日,公司公布基于企业自身管理标准的《人工智能应用准则》。《人工智能应用准则》从正当性、人的监督、技术可靠性和安全性、公平和多样性、问责和及时修正、数据安全与隐私保护六个维度,对人工智能正确有序发展作出明确规范,同时给出相应干预措施或指导意见,确保人工智能能够在可控范围内持续发展。

公司人工智能道德委员会及AI治理研究院始终关注公司及全行业人工智能落地过程中的伦理道德问题,提升人智能行业治理水平。在业务执行过程中,公司恪守《人工智能应用准则》,确保人工智能在业务落地的过程中符合伦理相关规范和标准。

一、公司在研发和业务开展过程中落实相关责任、遵守伦理相关规范和标准的措施及执行情况公司在人工智能伦理方面搭建了以伦理道德委员会以及人工智能治理研究院为核心的组织架构,确定了公司内部在业务执行过程中的应用准则,并努力采用技术手段解决人工智能面临的伦理道德问题。

1、人工智能道德伦理委员会

随着人工智能解决方案应用的高速发展与规模落地,公司最早认识到技术创新应有清晰的应用边界及伦理道德引导。为此,公司在2019年8月成立人工智能道德委员会,致力于人类社会安全、经济发展的和合共生。人工智能道德委员会作为直接隶属于董事会下的组织,主要聚焦于在人工智能的研发及应用过程中,研讨并制定相关伦理道德治理的规章与管理机制。

2、人工智能治理研究院

公司作为公司宣布成立人工智能治理研究院,希望以“长期主义的态度,理性的关注,深度的研究,建设性的讨论和坚持不懈的行动”把人工智能治理工作做的更扎实。合作机构包括清华大学人工智能国际治理研究院、北京大学光华管理学院、北京智源人工智能研究院、上海交通大学人工智能治理与法律研究中心、复旦大学计算机学院等。

3、在业务开展过程中恪守道德原则

2018年以来,公司内部已制定并发布了数据治理与合规制度、流程规范,如《数据分类分级管理规范》、《员工信息安全守则》和《信息安全事件管理办法》等。2019年,公司将企业的AI治理上升到企业发展战略层面,对外向社会公开发布《人工智能应用准则》,6月,公司取得了ISO27001与ISO27701认证,是国内首个通过ISO27701的AI企业

4、使用技术手段解决伦理问题

公司积极采用技术手段解决技术发展问题,如率先研发完成的前端图像脱敏方案是目前业内唯一实现在采集端完成人脸图像的不可逆脱敏,且脱敏数据仍可用于算法调优升级的创新技术方案,从而加强人工智能行业发展中个人信息保护,并推动在工信部重点实验室的Demo合作展示。为落实相关法规标准要求,从数据源头消除个人信息泄露风险,保障行业可持续发展提供了技术思路。后续,公司会持续将这些先进的技术方案以标准规范等形式贡献出来,帮助行业企业一起共同进步。

二、公司积极参与国家以及行业层面关于人工智能政策的探讨:1)公司积极参与人工智能伦理相关标准方面的研究制定。2)积极推进数据隐私保护相关标准制定。3)高度重视参与国际标准讨论,贡献中国经验

三、公司在技术开发和业务开展过程所面临的主要伦理风险

人工智能在有力推动经济社会发展的同时,也带来伦理道德风险。正是由于大数据的使用、算力的提高和算法的突破,人工智能才得以快速发展、广泛应用。这一过程中也涉及数据安全,尤其是涉及个人隐私信息的安全。随着公众对人工智能可能诱发的伦理道德问题日趋重视,公司在发展自身业务或公司客户使用公司产品过程中触及人工智能伦理道德问题时,可能引发公众关注以及舆情风险,进而对公司的公众形象和业务经营造成不利影响。

此外,人工智能健康发展的伦理道德保障机制仍然不够健全,与快速发展人工智能业务相关的伦理道德规章制度仍在制定和探讨中,预计未来会陆续出台。新出台的国家或行业伦理道德规章制度也可能给公司带来合规成本,从而对业务造成不利影响。

三、企业的回复要点

从上述的案例可以看出,关于科技伦理方面的问询,基本集中于公司是否存在伦理风险、公司是否存在涉及科技伦理的相关情形、是否涉及科技伦理敏感领域、是否属于应当建立科技伦理审查委员会以及规范科技伦理的措施和规划

这些问询基本都要求发行人对于自身涉及到科技伦理方面的情形进行合理化解释和自证。因为科技伦理属于新兴事物,国内相关的法律法规尚待完善,所以监管部门在科技伦理方面的审查也没有特别丰富的经验,询问的问题实质重于形式,也就是要求企业说明自身的情况,说明发行人自身技术与科技伦理是否存在关联,如果存在关联,又是否有合理的渠道来审查、管理和规范技术与科技伦理间的关系,以及发行人对于未来的规划。

这就要求发行人用通俗详实的语言来对科技伦理相关的情况进行披露。所以发行人只想简单披露一些现行的关于科技伦理方面公司制度、流程是不够的。具体而言,可以从组织架构、内部制度、技术手段、人员管控、伦理审查方面来进行回答。

1、组织架构方面:

企业可以依实际情况说明公司科技伦理委员会的情况,委员会的工作原则、工作职责、下属执行机构的设置,包括人员组成、工作原则等:

①企业通常可以设置信息安全管理委员会、科技伦理治理委员会,作为直接隶属于董事会的决策机构,负责在人工智能的研发及应用过程中制定相关伦理道德治理的规章与管理机制,统筹、部署和决策企业的信息安全和数据合规等工作。

②企业也可以单独设立人工智能伦理审核委员会,负责企业人工智能技术的伦理规范审查。

③个别头部互联网科技企业(比如阿里集团)为加强外部监督,已聘请科技、法律、公共管理等领域的外部专家组成顾问委员会,为规则制定及伦理审查提供咨询建议和协同治理。

2、内部控制方面:

企业可以从伦理方面的规章制度落实、各个环节内控的文件记录、第三方中介人员或机构对内控制度的评价几个方面来进行答复。

3、技术手段方面:

企业可以从采用的技术如何可控、如何符合科技伦理方面进行解释。对数据获取、传输、训练、使用、存储、备份及处置等数据生命周期的各个环节均提供相应的安全技术保障措施,从技术方面论证业务各个环节合法合规。

4、人员管控方面:

企业可以说明员工已经进行数据安全、个人隐私保护以及人工智能伦理相关的培训,企业合理引导员工自觉践行科技伦理原则。另外企业应该说明所有接触采集数据的员工已经签署专项保密协议,并要求核心研发人员签署重要数据及个人信息保护承诺书,以提升员工的数据合规以及人工智能伦理意识。

5、未来规划方面:

企业可以从科技伦理方面的前沿理念跟踪、社会各界的交流合作、各类学术会议、行业会议的交流、国标的参与情况等几个方面来论证公司如何保证技术符合伦理方面的规划。

当然,如果发行人可以证明自身的技术不存在科技伦理方面的风险,就可以免于上述信息披露的要求和规范,但是需要合理解释企业本身不存在科技伦理方面情形的原因。

四、从ESG到ERSG?

复旦管院企业管理系教授郑琴琴在其名为《科技伦理与ESG》的主题演讲中提到:ESG可能会转向ERSG

联合国在2004年提出了ESG这个概念。现在,很多评价体系都采用ESG来评价企业。科技伦理发展过程中,ESG也开始逐渐被采用,作为很重要的参考指标。此外,国际组织也发布了一些ESG的指导原则,这些指标和评价体系在企业的科技和经济发展过程中都有着很重要的参考价值。目前,国内也推出了一个国证ESG指数。

从发展趋势上看,ESG可能会转向ERSG,尤其对于科创企业而言,当它的研发创新是与社会福祉联系起来时,“R”(Research)就属于ESG报告中非常重要的一个组成部分。其实,如果阅读制药领域企业的ESG报告,我们就会发现他们在S这个板块当中,很大程度上会提到研发创新,比如研发新药药物的可及性、普及性、普惠性等方面。ERSG未来的发展可能对于科创企业或者企业的科技创新战略发展而言,是一个非常重要的指导思想。

而且随着AI等技术的发展,ERSG中的“R”也必然会更多依赖于人工智能等前沿技术。这就不可避免与科技伦理相挂钩。但是,相较于欧美国家高达2000余部伦理相关法律法规的文本体量,我国的科技伦理法治建设仍然相对薄弱,所以更需要依赖于企业的自我约束和社会责任感。

算法的背后依然是人,也要继续探索面向大众的应用场景。强监管的目的,是为了避免人工智能行业成为披着高科技外衣的资本游戏。所以不论是ESG还是ERSG,企业在逐利的同时需要对社会承担更重要的责任。

五、小结

从《意见》中可以看出:政府并没有打算将人工智能等技术当作洪水猛兽,科技向善、科技惠民是政府希望的方向。而如何平衡科技向善还是科技获利,不论是政府、证监会、监管部门、企业还是每一个人,都将要也必须面对的问题

对于大片空白的区域,企业需要强化自身责任,加强科技领域、人工智能领域的信息披露。先行的拟上市企业应该发挥价值,为其他企业提供一些经验,也可以为证监会乃至政府制定法律法规提供一定的帮助。

技术发展大势难逆,企业作为承载技术的载体更是时代的排头兵,科技伦理治理不应该仅仅将科技的伦理问题作为治理的对象,而且还要突出伦理的规范性和导向作用;而要达到和实现科技伦理治理的目的,重要的是要加强对全社会的科技伦理文化的培养,通过教育和培训让践行伦理逐渐成为企业的内在认同和行动自觉。

参考文献:

[1]解学芳,高嘉琪.“智能+”时代AI文化科技伦理反思:创新边界与伦理准则[J].自然辩证法研究,2022,38(07):74-81.

[2]计海庆.论科技伦理的治理创新[J].华东师范大学学报(哲学社会科学版),2022,54(05):101-110+190.

[3]曹奕阳.科技伦理审查制度建设中的主体、程序与方法优化[J/OL].科技进步与对策:1-9.

[4]王国豫.科技伦理治理的三重境界[J/OL].科学学研究:1-11.


IPO审核新疆域:AI时代来临,科技伦理审核方向及回答要点

股盾网提醒您:股市有风险,投资需谨慎!

上一篇:
下一篇: