科技大全网
当前位置: 科技大全网 > AI >

用好AI“双刃剑” 打断藏形匿影的歧视链

时间:2023-10-05 05:24:45 编辑:科技君

(记者 林婉玲)利用算法进行“AI招聘”已成为职场中的一大新热点,如何规避AI算法可能带来的歧视问题成为保障就业公平面临的一个新问题。近日,上海市政协在一场重点提案督办专题调研暨办理推进会上,就针对这一问题进行了重点讨论,旨在通过加强监管、强化技术手段等,更好地维护劳动者权益。

(图片来源:摄图网)

AI应用领域不断扩容

随着数字化时代的到来,大数据、大模型等AI算法正不断进入各场景进行探索应用。例如,在家居、制造、金融、医疗、安防、交通、零售、教育和物流等多领域都有涉猎,包括上述的“AI招聘”。

简单举几个例子。在自动驾驶领域,AI可用在自动驾驶技术中,通过感知、决策和控制使车辆能够自主行驶,这一技术的发展将带来更高的交通安全性。在医疗保健领域,AI技术在辅助诊断、医疗影像分析、个性化治疗和健康监测等领域有着广泛的应用,AI能够处理大量的医疗数据并提取有用的信息,帮助医生进行更准确的诊断和治疗决策;此外,AI还可以通过智能设备和监测系统,对个人健康状况进行实时监测和预测。在教育和培训领域,AI可以提供个性化学习和智能教育工具,根据学习者的特点和需求,为其提供定制化的教育,个性化的学习方案;智能教育工具能够根据学生的学习进度和理解程度,提供有针对性辅导……

AI的“一体两面”引人深思

“一公斤的砖和两公斤的棉花,哪个比较重?”对于这个简单的问题,人工智能(AI)问答软件却答错了。

前不久在福州举行的2023年国家网络安全宣传周主论坛——网络安全技术高峰论坛上,一位演讲嘉宾谈及人工智能时列举了上述案例,由此反映出的人工智能“一本正经地胡说八道”现象引发热议。

同时,粤港澳大湾区数字经济研究院创院理事长沈向洋也认为,不完美的数据源,将导致人工智能“一本正经地胡说八道”,以及产生更难被察觉的“AI谣言”。包括在日常生活中,人们使用AIGC工具经常会发现生成的内容存在不准确或自相矛盾的地方,这种现象就属于“AI在一本正经地胡说八道”。

可见,人工智能既带来技术变革、效率和生产力提升、改善生活质量和社会福祉,也带来了技术伦理和治理方面的挑战,统筹生成式人工智能的发展和安全逐渐变得至关重要。

建立长效治理机制势在必行

而应如何统筹人工智能发展和安全、提高安全治理的能力和水平,做到更好地应对新的风险和挑战呢?

华为云CTO张宇昕就曾表示,希望构建一个负责任、可信赖的人工智能体系,就自身而言,华为重视人工智能技术创新和治理责任,坚持负责任地开发、合法地部署AI产品,促进AI普惠。

清华大学人工智能研究院副院长朱军建议,加强技术理论研究,不断提高内生安全水平,持续构建第三代人工智能;加强技术手段建设,不断提升训练数据质量和安全评测能力;同时,持续演进人工智能治理的有效工具。

此外,我国也发布了法规政策和标准规范来进行合规引导,例如《新一代人工智能伦理规范》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法(征求意见稿)》等文件,为人工智能技术发展和应用提供了很好的安全指引。