Está preocupado por la IA de evolución humana y la conquista de alienígenas. No alienígenas de IA. Aunque eso podría ser aún peor.
Está preocupado por buenas razones. No tiene nada que ver con que sea más tonto que ellos. Los extraterrestres que tienen las capacidades tecnológicas para cubrir años luz de espacio y encontrar una mota de polvo, no solo vendrán aquí para recibir un simple saludo. Es muy probable que nuestras esperanzas de que estén interesados en “aprender unos de otros”, o “Chuck Berry”, o “sinfonía n. ° 5” estén ridículamente lejos. Piense en usted interesado en la “cultura” dentro de una colonia de bacterias. Parafraseando a Hawking, será como lo que les sucedió a los nativos americanos después de que Colón pisó el nuevo mundo. Excepto mucho peor.
Lo mismo ocurre con una IA en evolución con acceso a la fuente de datos virtualmente ilimitada que llamamos internet. Imagine un programa capaz de evolucionar por sí mismo con la ayuda de la potencia computacional moderna. Decenas de miles de años de nuestra propia evolución se imitan en un mes, ¡y luego siguen evolucionando! Eso es realmente aterrador. No es que sea más inteligente que nosotros en un par de semanas o un mes, y si decide que los humanos no son necesarios. ¿Qué podemos hacer al respecto? Nada en absoluto.
- ¿Crees que los extraterrestres viven en la luna?
- ¿Qué es lo que estamos buscando en la vida?
- ¿Por qué suponemos que los extraterrestres siempre serán más fuertes que nosotros y de naturaleza bárbara?
- ¿Es posible que un extraterrestre extraterrestre no sea más grande que un ratón?
- ¿Hemos descendido de extraterrestres?
