CCF又有大动作——揭秘职业伦理委员会

　　近日，由于某外卖平台算法系统与骑手实际工作的冲突，导致骑手遭遇交通事故的数量上升，引起社会广泛关注，如今大家呼吁能否实现更有人性化的平台系统，这其中就涉及到IT从业人员的“职业伦理”。

　　CCF新成立的职业伦理与学术道德委员会近日组阁完毕，在京召开首次工作会议。委员会主席、南京大学计算机学院陈道蓄教授就此事发表看法。

　　陈道蓄指出，研究职业伦理，制定IT从业人员行为规范，并不是为了限制从业者，而是为了保护从业者、保护IT行业，使其更健康地发展。如果由于职业伦理方面的空白，产生社会矛盾，导致社会对IT行业和从业者的信任度降低，将不利于整个行业的发展。CCF的宗旨是服务会员，承担社会责任也要通过服务会员，服务从业者来实现。CCF成立职业伦理与学术道德委员会（以下简称“伦理委员会”），就是要树立起IT行业负责任的形象，也要引导社会更加了解和重视相关问题。

　　伦理委员会另一位主席是复旦大学哲学系的王国豫教授，通过线上参会加入热烈讨论。“现在人工智能很热，也引发人们对于未来社会的担忧，我们的研究其实带有科技启蒙的意味，将推动社会对人工智能伦理问题的认识，CCF可以更深入地讨论存着的问题，以及从制度和技术上是否有办法解决这些问题。”对于职业伦理，王国豫提出三个“律”：自律，即从业者对自己的要求——作为科学家和工程师应该负有怎样的责任；他律，包括社会监管和行业监管，现在CCF要做的就是这件事——提出行为规范和准则，体现价值观；更深层次的是“物律”，即通过技术干预，如在设计算法的时候将正确、符合人类利益和社会伦理的价值观嵌入到人工智能中，用来纠正社会原先存在的不合理的偏见与歧视，这是更深层次的内容，在今后的工作中可以慢慢探讨。

　　伦理委员会常委、中科院计算所副研究员刘宇航表示，CCF成立伦理委员会，实际上填充了我国信息技术领域的真空地带，这个领域需要一个组织去做这件事。对伦理委员会的定位，刘宇航认为有“启蒙”和“制定规则”两方面的作用，实际上是要塑造一个学术的生态，包括学术界内部的生态，以及学术界对社会贡献的一个接口，大家需要有边界意识，比如说某些行为“触电”了，需要有个“跳闸”的东西，这就是规则。

　　伦理委员会常委、创新工场南京AI研究院执行院长冯霁从实际工作层面给出了建议。他认为，伦理委员会至关重要的工作是要研究并制定出IT行业的行为规范（code），有了这个code，未来才有“干货”向政府建言、参与国际讨论，以及在学术界、教育界和产业界进行宣传和普及，所以这样的纲领性文件尤为重要。

　　另一位常委李超研究员，来自上海交通大学，今年刚启动“计算机伦理”课。李超从2016年开始筹建计算机伦理相关课程，今年正式开始教授“计算机伦理学”（必修课）与“计算机科学中的伦理问题”（全校通识课）两门课，他认为，CCF伦理委员会可以为高校计算机伦理教学方面的课程建设作一些贡献，比如提出一套可实施的指南和相关方面的建议。

　　CCF伦理委员会还吸引了企业界的关注，常委石腾就是其中的一位，他来自华为。“社会大众对人工智能或机器学习等先进IT技术由于不够了解，会产生非理性的恐惧和担忧，”石腾认为，CCF伦理委员会应该站在专业人士的角度给出正确解释，通过对社会的普及打消一些非理性的顾虑，这也是CCF承担社会责任的一方面。

　　来自社科院哲学所的段伟文研究员是研究科学哲学和科技伦理的专家，经王国豫主席推荐加入CCF伦理委员会。段伟文已经在科学哲学和科技伦理方面做了多年工作，对科技领域的伦理问题研究经验丰富，他提及了伦理学方面的一些研究背景，如职业伦理是示范载体，具有赋能性，需要专业精神和荣誉感。他还介绍了一些研究方法，如“伦理矩阵”（通过不同维度进行对比）、德尔菲法（调研）等。

　　CCF理事、中国科学院信息工程研究所副研究员林俊宇也作为常委参与了伦理委员会的工作，他提出了一个不同的角度。如今信息技术飞速发展，青少年已经离不开网络生活，但网上充斥着各种不良信息，荼毒青少年的身心健康，林俊宇认为我们应关注下一代，研究如何通过制定职业伦理规范，为青少年营造良好的网络环境，保障下一代的健康成长。

　　浙江大学廖备水教授也通过线上参会，他从2006年开始研究人工智能伦理与法律，此次受邀加入CCF伦理委员会担任常委。他从伦理价值的具体设计方面给了一些建议，认为需要考虑不同文化的群体。过去两年，他也在研究如何用从内而外的逻辑，把伦理设计变成一种算法，希望对伦理委员会未来的工作有帮助。

　　CCF秘书长杜子德表示，CCF是由计算机领域的人构成的学术组织，有责任，有义务，也有能力把这个事做好。为什么这个委员会要把研究计算机和研究哲学伦理的两拨人聚在一起？“如果没有研究伦理学的专家，我们对伦理学的本质、内涵、历史发展脉络相关问题理解不深，因为我们是搞计算机的，我们对IT领域的问题理解比较深刻，所以两方面的专家要通力合作，缺一不可，才能把这件事做好。” CCF是计算机业界人士自愿组织起来，为自己服务的机构，讨论自己领域的事情，所以我们完全有理由，也有能力把这件事做好。

　　经过深入探讨，群策群力，CCF伦理委员会确定未来将从以下三方面展开工作：

1.       聚焦计算机信息技术伦理领域重要且带有争议性的问题，对其梳理并探讨，产出报告（survey），希望引导社会对IT行业伦理方面更关注，对问题的了解更清晰，同时吸引更多感兴趣的人士加入，推动进一步的深入研究。

2.       广泛收集行业内涉及职业伦理的相关案例，深入讨论，产出基于实际案例的“行业规范”（code）。

3.       关注普及与教育，研究关于计算机伦理学相关的课程，并争取产出课程设计建议性指南。

　　欢迎更多业界人士关注职业伦理。