近年来人工智能技术稳步发展，对社会造成的影响力与日俱增。但与此同时，该报告也指出，人工智能技术可能存在许多负面影响，人类应警惕它可能带来的副作用。

一些人工智能技术取得了显著的成功，如语音识别、在线翻译、图像分类、智能机器人、自驾汽车等。

生命未来研究所的顾问委员会吸引了众多科学家和投资者，其中包括美国电动车公司特斯拉的创始人伊隆·马斯克和物理学家斯蒂芬·霍金。该研究所在上述的报告中强调了规避人工智能技术潜在危害的重要性。

该报告指出，专家在设计智能系统之初应为该系统划定“正确的行为”范围，并预先由计算机专家和伦理学家确定该系统的程序道德性，以加强智能系统在特殊情况下正确执行指令的能力。

该报告还建议在智能技术投入使用前对其进行缜密的检查，因为任何的程序错误都有可能导致机器的错误行为。报告指出，智能系统中使用的程序和传统系统中的程序截然不同。智能系统执行任务需要依靠人工智能实验室的掌控，实验室还负责监督执行结果、研发智能技术、发现技术错误并对其进行纠正。

监控和测试

生命未来研究所提议，为保障系统安全，应在人工智能技术投入使用前对所有的组成部件进行测试。部分测试由专用计算机操作完成，另一部分由相关专家完成。

此外，该研究所认为，对智能系统的能力进行限制十分必要，因为目前为止科学家们尚不清楚这些系统是否会带来安全问题。

因此，对智能系统持续监控显得尤为重要，尽管这项工作因为智能系统具备智能思考能力变得十分困难。一些技术还具备抗变的能力，即使开发商想改变、调整或停用该技术也无能为力。因此，生命未来研究所建议加大对可变、可修复智能系统技术的研究。

鉴于在寻求解决方案的过程中，一些人工智能系统可能导致意想不到的问题，该研究所建议限制人工智能技术的使用范围，从而限制它带来的负面影响

标签： 人工智能 英语