自1956年人工智能技术(AI)诞生以来,人们对AI技术的安全性担忧从来就没有停止过。
AI技术从第一代知识驱动型,也被称作“符号主义”,发展到目前的第二代数据驱动型,也就是人们所熟悉的“大数据”“深度学习”,被广泛应用于金融、电商、医疗、安防、教育等领域,但引起的数据伪造、算法瓶颈、隐私安全、伦理困境等问题也日益凸显。专家指出,这些问题,现实还没有找到根本的解决办法。
随之,科学家提出了探索第三代AI技术,发展安全、可信、可靠和可扩展的AI技术。第三代人工智能发展路径是利用知识、数据、算法和算力四个要素,建立新的可解释和鲁棒的AI理论与方法,或被称为知识和数据型。
我国科学提出了发展下一代AI技术的基本思路,将从机器学习、逻辑推理、数理统计、复杂系统、技术哲学等不同学科视角出发,在安全可信智能、领域通用智能和生物启发智能形成了共识,是算法可靠、数据安全和应用可控。那时,人们对AI技术安全问题的担忧将不复存在。
刘代荣