O futuro da inteligência artificial e a singularidade é um incógnita “No momento em que saibamos como fazer maquinas inteligentes, vamos fazê-las“, disse Bostrom, em uma sala do instituto que dirige, “e, até lá, devemos saber como controlá-las. Se você tem um agente artificial com objetivos diferentes dos seus, quando se torna suficientemente inteligente é capaz de antecipar suas ações e fazer planos com base nos seus, o que poderia incluir esconder suas próprias habilidades de forma estratégica”. Especialistas em Inteligência Artificial dizem que há uma probabilidade de 90% de que, entre 2075 e 2090, existam máquinas inteligentes como os humanos. Na transição para essa nova era, será preciso tomar decisões. Talvez inocular valores morais às máquinas.
De acordo Ray Kurzweil a singularidade será um evento histórico previsto para o futuro não muito distante, no qual a humanidade atravessará um estágio de colossal avanço tecnológico em um curtíssimo espaço de tempo. Ele chega a dizer que nós, seres humanos iremos adulterar nossa própria espécie, fundindo-nos às máquinas e tornando-nos uma nova raça.
Baseando-se em avanços nas áreas da informática, inteligência artificial, medicina, astronomia, nanotecnologia, genética e biotecnologia, muitos estudiosos acreditam que nas próximas décadas a humanidade irá atravessar a singularidade tecnológica e é impossível prever o que acontecerá depois deste período. Um intelecto artificial muito superior aos melhores cérebros humanos em praticamente todas as áreas, incluindo criatividade científica, sabedoria geral e habilidade social, não teria porquê estar submisso a nós.