人工智能的到来以及技术在人们生活中发挥的日益重要的作用无疑带来了好处，但有时看似进步可能会付出代价。目前对人工智能最大的担忧是担心它会取代人类。人工智能具有自我学习、适应和即兴创作的能力，这可能使人工智能比人类更聪明。这将是一个大问题，因为它最终可能被人类无法控制，如此迅速的扩散，不可能预防或控制不良后果。
人工智能与过去的技术突破不同，因为它并没有扩展人类的能力;它正在扩大机器的能力。过去技术进步所增加的能力是人的能力，因此我们塑造世界的能力正在改变。对于人工智能，这似乎不太可能。该领域的领先专家杰弗里·辛顿（Geoffrey Hinton）甚至表示，他对自己作为人工智能先驱的毕生工作感到遗憾。这引起了公众的关注，因为越来越多的人开始认真对待人工智能的潜在危险。
然而，领先的技术专家和研究人员发布了一封公开信，呼吁暂停进一步的人工智能开发。他们认为这是对人类、社会和环境的潜在灾难性风险。他们敦促集体关注“第三项工作”，即考虑人工智能研究和应用的伦理和社会影响。他们的担忧并非没有根据，算法在“黑匣子”中工作，其中可能会发生奇怪和意想不到的事情。如果不加以控制，可能会产生不可预见的后果，最终破坏人类和环境。
原始來源：加拿大环球邮报