¿Por qué la gente como Elon Musk está tan preocupada por los peligros de la IA, pero no por los peligros de los extraterrestres?

WWED ™ – ¿Qué haría Elon? Sí, Elon Musk ha hecho declaraciones públicas recientes que describen sus preocupaciones sobre la inteligencia artificial. Entonces, ¿por qué está más preocupado por un escenario “Terminator” que uno “ID4”? Aquí está mi especulación:

Es razonable anticipar inteligencia artificial avanzada:

Los sistemas de IA típicos de hoy básicamente no son mucho más avanzados que Eliza de la década de 1970: ingresas una frase y escupen una respuesta de una biblioteca de respuestas obsoletas y preescritas. Curiosamente, los políticos de hoy hacen exactamente lo mismo, demostrando que la IA no está muy lejos de la verdadera inteligencia, o la política sí. Tu elección.

Cualquiera que sea el caso, sabemos que la inteligencia orgánica existe en la Tierra, sabemos que se basa en el procesamiento de información, y tenemos máquinas que pueden superar enormemente a la mente humana en términos de procesamiento. Por lo tanto, probablemente sea solo cuestión de tiempo antes de que podamos replicar la verdadera inteligencia en forma de máquina, y Ray Kurzweil sugirió que esto sucedería entre 2020 y 2040.

Discutir “The Singularity” está bastante de moda y respetado en los círculos del futurismo en estos días, y Musk se siente cómodo al expresar sus preocupaciones al respecto, ya que la IA a nivel humano podría no compartir los mismos objetivos o valores que nosotros.

No es razonable anticipar reuniones extraterrestres:

Este año se cumple el 70 aniversario del legendario avistamiento de ovnis “Kenneth Arnold”, y después de todo este tiempo, todavía no tenemos ninguna prueba pública definitiva de que el mundo está siendo visitado por extraterrestres.

Sin embargo, durante este período de tiempo, los ovnis, los extraterrestres y los extraterrestres se han convertido en una parte profundamente arraigada de nuestra cultura, representando tanto el miedo como la fascinación por lo desconocido que anteriormente estaba ocupado por hadas, ogros, vampiros y fantasmas. Son parte de nuestra cultura, pero se basan en todo lo que puedo decir, no en volar en nuestros cielos.

Lo más probable es que HAY razas inteligentes entre las estrellas en algún lugar, pero las probabilidades de que nos encuentren y viajen para encontrarse con nosotros son asombrosamente bajas.

Resumen:

Todos los ingredientes básicos para la IA a nivel humano ya están disponibles, esperando la “chispa” correcta para encender la inteligencia de la máquina. La preocupación de Musk es que no estamos planeando lo suficiente para posibles consecuencias negativas de esto de antemano.

Por el contrario, dependiendo de a quién escuche, ET ya está de visita y “nos ama + quiere la paz mundial”, o bien está tan lejos en el espacio que probablemente nunca nos encontrarán.

La inteligencia artificial se está desarrollando rápidamente y la ‘verdadera IA’ está en el futuro previsible.

¿Formas de vida extraterrestres? Parece que no está sucediendo mucho en ese frente, y quién sabe si, o cuándo, algo sucederá alguna vez.

Ser AI lo que hacemos de él es esencialmente el problema. Cualquier cosa que pueda ser mal utilizada también es ‘lo que hacemos de ella’, y es fácil ver lo que algunas personas ‘han hecho de ella’ cuando se trata de sustancias químicas, maquinaria, electrónica digital y armamento. Las formas en que las personas inmorales y poco éticas podrían pervertir la IA podrían ser extremadamente perjudiciales.

¡Otro problema es que las computadoras, y especialmente aquellas tan avanzadas como para ser clasificadas como Inteligencia Artificial , no tienen corazón! Son pensadores fríos y calculadores que tienden a estar desprovistos de cualquier compasión o comprensión de algo, o especialmente de cualquier persona, que no tiene sentido lógico. Si tiene una computadora con IA a cargo de cosas tales que sus respuestas pueden ser una cuestión de vida o muerte para las personas, eso no es bueno. Cualquiera que haya visto 2001: Una odisea del espacio en algún momento de la vida debería apreciarlo. No hace falta decir que el mal funcionamiento de la IA podría ser mucho peor.

Elon Musk está interesado en los peligros de la IA precisamente porque deberíamos tener algún control sobre ella. Es beneficioso si podemos prestar atención al riesgo de las cosas que controlamos y reducir ese riesgo.

No tenemos ningún control sobre los extraterrestres y lo que hacen. Entonces, incluso si prestáramos atención a los extraterrestres, no nos ayudaría mucho.

Además de eso, los peligros de la tecnología aumentarán en los próximos años a medida que esa tecnología se vuelva exponencialmente más poderosa. Los peligros naturales probablemente se mantendrán igual. No habrá más peligro de un ataque de asteroides, un terremoto mortal o una invasión alienígena en este siglo que el anterior.

Entonces, la verdadera pregunta es cómo mantenemos la IA segura. Nuestra capacidad de mantener la IA segura y predecible debería aumentar con nuestra capacidad de crear esa IA. Entonces, aunque el peligro aumenta, nuestra capacidad de controlarlo también debería aumentar.

En ese caso, estoy menos preocupado que Elon Musk. Pero ciertamente aprecio su tiempo para investigar los peligros del desarrollo futuro de IA, incluso si las posibilidades son remotas.

“Pero la IA es solo lo que hacemos, así que tenemos el control total”.

Famosas últimas palabras de la humanidad. Gran, gran error pensar de esa manera. Busque algunas conferencias de Nick Bostrom para obtener más información. Palabra clave: problema de control.

“Un extraterrestre del espacio exterior podría ser literalmente como cualquier cosa”

En realidad, es al revés: la IA no tiene restricciones biológicas y puede ser cualquier cosa desde el espacio de posibles entidades inteligentes, mientras que los extraterrestres, por extraños que sean, deben tener una historia evolutiva de selección natural, por lo que podemos estar seguros de que lo harán al menos tener instinto de supervivencia y unidad reproductiva.

Razones para preocuparse por la IA sobre los extraterrestres:

1. No sabemos si existen extraterrestres, sin embargo, estamos seguros de que, en principio, se puede lograr una súper inteligencia artificial
2. No hay razones para pensar que los extraterrestres aparecerán en el futuro cercano cuando no se hayan presentado durante milenios tras milenios, mientras que es probable que se logre una IA fuerte en este siglo
3. No podemos hacer mucho si los extraterrestres deciden aparecer, mientras que tenemos una oportunidad única para influir positivamente en nuestro profundo futuro si ponemos mucho pensamiento y esfuerzo en el problema del control de la IA.

La mayoría de los expertos en IA están de acuerdo en que la creación de superinteligencia artificial tendrá efectos extremadamente positivos (utopía) o extremadamente negativos (extinción) en el futuro de la humanidad. Para resumir en palabras de Eminem:

” Tienes una oportunidad, no pierdas la oportunidad de volar ”

No hay evidencia concluyente de extraterrestres hasta ahora, y menos aún, de extraterrestres hostiles y potencialmente peligrosos.

La mayoría de la gente piensa que las posibilidades de encuentros cercanos con extraterrestres peligrosos son muy pequeñas o microscópicas. Puede que nunca veamos extraterrestres.

Por otro lado, la IA a nivel humano está en el horizonte. Según muchos, está a solo un par de décadas de distancia. Según algunos, puede llevar más tiempo. Pero el consenso parece ser que la IA a nivel humano es inevitable, y que no se mantendrá a nivel humano por mucho tiempo. O, en otras palabras, una IA muy superior es inevitable. Si algo es superior, no podemos entenderlo y analizarlo; esto lo hace potencialmente peligroso y tenemos una buena razón para preocuparnos.

La suposición en la pregunta detalla que tendremos control total sobre la IA porque será lo que hagamos, de hecho está mal. Primero, no se nos puede confiar. Y luego, no tendremos más control que los padres sobre sus hijos; en algún momento, ellos no tienen ningún control. Y la infancia con IA puede durar meses, o incluso días; si hay peligro, cuando sea evidente, será demasiado tarde para reaccionar.

Los extraterrestres podrían estar en camino ahora y un millón de años más avanzados que nosotros. No hay nada que podamos hacer al respecto, hemos terminado. La IA está evolucionando gracias a nosotros, podemos hacer algo al respecto.