Javier del Pino y Judit Carrera, directora del Centro de Cultura Contemporánea de Barcelona, conversan con el historiador israelí sobre los avances de la inteligencia artificial y el papel de la ciencia en el siglo XXI. “Por primera vez en la historia hemos inventado algo que nos arrebata el poder, no sé si podremos sobrevivir a ella”
#11:
#10, es que creo que para que sea un peligro ni siquiera hace falta que tome conciencia o tenga voluntad propia. Es una herramienta muy potente en cuanto a productividad y más que lo será. Imagina dentro de 10 años si resulta cualquiera pueda crear un virus informático super potente con conocimientos básicos pero asistido por una IA. Me refiero a los peligros de ver una IA como una herramienta para provocar daño, no que ella tenga un fin en si misma.
#10, es que creo que para que sea un peligro ni siquiera hace falta que tome conciencia o tenga voluntad propia. Es una herramienta muy potente en cuanto a productividad y más que lo será. Imagina dentro de 10 años si resulta cualquiera pueda crear un virus informático super potente con conocimientos básicos pero asistido por una IA. Me refiero a los peligros de ver una IA como una herramienta para provocar daño, no que ella tenga un fin en si misma.
#14 Pienso lo mismo. Hasta que no hay consecuencias no se regula ( y muchas veces no cuando comienza a haber consecuencias, véase el cambio climático), y en el caso de la IA no queda mucho margen de tiempo para actuar...
Pasa lo mismo con el tema de los datos, que también comenta Harari en la entrevista.
#18, es complicado, tienes toda la razón. Ocultar un centro de datos es mucho más fácil que una planta de enriquecimiento de uranio. Pero algo habría que plantear.
#21 es que lo veo bastante difícil es como poner puertas al campo, como intentar prohibir internet, el país que lo haga se quedará atrás.
Por un lado, como ingeniero estoy muy ilusionado con todo esto y ver hasta dónde puede llegar pero también sé que acabará en malas manos. Fijate creo que las peores manos van a ser los gobiernos.
En cuanto una IA pueda automejorarse la evolución va a ser abismal
El hombre lleva siglos intentando autodestruirse. Y no hemos tenido micho éxito, tenemos más problemas con el cambio climatico, que no destruirá la humanidad, pero si todo nuestro sistema y esteuctura social, con lo que mucha de la tecnología se irá a la mierda.
#6, es un problema similar al del Covid y cuando hacíamos analogías estúpidas como con el ébola. Los problemas que han amenazado la humanidad hasta hoy tenían un crecimiento muy lento y lineal. La IA puede seguir una progresión geométrica, cuando realmente sea un peligro ya será demasiado tarde para actuar, por eso hay que pensar un marco regulatorio ahora que es inofensiva.
#12, pues visto el precedente, no tengo muchas esperanzas. Mira los comentarios de este propio hilo, los seres humanos, al menos la civilización occidental, somos de tendencia corto-placista.
#9 y que regularias exactamente? Siempre habrá algún sitio donde la IA pueda desarrollarse,sería ponerle puertas al campo, a ver cómo evitas que China la desarrolle?
Hemos de anticiparnos y LEGISLAR SU USO.
Algo tan importante y trascendental para la sociedad mundial debe ser TRANSPARENTE y conocer TODO (sus algoritmos, sesgos, propietarios, etc.).
Hemos de poner límites a su actividad y, lo más importante de todo, EL BOTON MANUAL DE ON/OFF!!!
Por sí mismo no es algo malo, el problema (como el fuego o la energia nuclear) es SU USO.
#5, que sí, que ahora ya todos sabemos que criticar todo lo que dice Yuval Harari da un aura de superioridad intelectual y como todas las modas, no hay que desaprovechar ka ocasión para demostrar que se está al día. Pero no es el único que alerta sobre los peligros de la IA. Geoffrey Hinton no sea precisamente un cuñao:
#8 me he leído el libro Life 2.0 y los expertos cuñadean también de un modo flipante con esto de que se "escape" una super inteligencia artificial.
Por cierto, un libro muy recomendable, pero no deja de ser un negocio que se han montado para vivir a base de luchar contra un problema inexistente gracias a un miedo colectivo fuertemente imbuido en nuestra cultura.
Comentarios
#10, es que creo que para que sea un peligro ni siquiera hace falta que tome conciencia o tenga voluntad propia. Es una herramienta muy potente en cuanto a productividad y más que lo será. Imagina dentro de 10 años si resulta cualquiera pueda crear un virus informático super potente con conocimientos básicos pero asistido por una IA. Me refiero a los peligros de ver una IA como una herramienta para provocar daño, no que ella tenga un fin en si misma.
#14 Pienso lo mismo. Hasta que no hay consecuencias no se regula ( y muchas veces no cuando comienza a haber consecuencias, véase el cambio climático), y en el caso de la IA no queda mucho margen de tiempo para actuar...
Pasa lo mismo con el tema de los datos, que también comenta Harari en la entrevista.
Yo he venido a hablar de mi libro.
Na, pasará como con los neandertales, que pensábamos que se habían extinguido pero viven dentro de nosotros.
Nuestros descendientes estarán construidos con silicio pero seguirán siendo humanos.
Si el ser humano se sale de nuestro control pondra en riesgo la especie , la supervivencia y el planeta.
#18, es complicado, tienes toda la razón. Ocultar un centro de datos es mucho más fácil que una planta de enriquecimiento de uranio. Pero algo habría que plantear.
#21 es que lo veo bastante difícil es como poner puertas al campo, como intentar prohibir internet, el país que lo haga se quedará atrás.
Por un lado, como ingeniero estoy muy ilusionado con todo esto y ver hasta dónde puede llegar pero también sé que acabará en malas manos. Fijate creo que las peores manos van a ser los gobiernos.
En cuanto una IA pueda automejorarse la evolución va a ser abismal
El hombre lleva siglos intentando autodestruirse. Y no hemos tenido micho éxito, tenemos más problemas con el cambio climatico, que no destruirá la humanidad, pero si todo nuestro sistema y esteuctura social, con lo que mucha de la tecnología se irá a la mierda.
#6, es un problema similar al del Covid y cuando hacíamos analogías estúpidas como con el ébola. Los problemas que han amenazado la humanidad hasta hoy tenían un crecimiento muy lento y lineal. La IA puede seguir una progresión geométrica, cuando realmente sea un peligro ya será demasiado tarde para actuar, por eso hay que pensar un marco regulatorio ahora que es inofensiva.
#9 Eso es precisamente lo que dice Harari en la entrevista
#12, pues visto el precedente, no tengo muchas esperanzas. Mira los comentarios de este propio hilo, los seres humanos, al menos la civilización occidental, somos de tendencia corto-placista.
#9 y que regularias exactamente? Siempre habrá algún sitio donde la IA pueda desarrollarse,sería ponerle puertas al campo, a ver cómo evitas que China la desarrolle?
Hemos de anticiparnos y LEGISLAR SU USO.
Algo tan importante y trascendental para la sociedad mundial debe ser TRANSPARENTE y conocer TODO (sus algoritmos, sesgos, propietarios, etc.).
Hemos de poner límites a su actividad y, lo más importante de todo, EL BOTON MANUAL DE ON/OFF!!!
Por sí mismo no es algo malo, el problema (como el fuego o la energia nuclear) es SU USO.
Cada vez cuñadea más
#5, que sí, que ahora ya todos sabemos que criticar todo lo que dice Yuval Harari da un aura de superioridad intelectual y como todas las modas, no hay que desaprovechar ka ocasión para demostrar que se está al día. Pero no es el único que alerta sobre los peligros de la IA. Geoffrey Hinton no sea precisamente un cuñao:
https://www.elnacional.cat/es/sociedad/pioneros-inteligencia-artificial-arrepiente-advierte-peligros-delante_1017582_102.html
#8 me he leído el libro Life 2.0 y los expertos cuñadean también de un modo flipante con esto de que se "escape" una super inteligencia artificial.
Por cierto, un libro muy recomendable, pero no deja de ser un negocio que se han montado para vivir a base de luchar contra un problema inexistente gracias a un miedo colectivo fuertemente imbuido en nuestra cultura.
Como ejemplo, Frankenstein.
No nos hace falta ninguna inteligencia artificial para llevarnos a la extinción, sabemos hacerlo solitos y muy bien, además.
Vamos camino de la extinción por la destrucción total del medioambiente. ¿Qué va a hacer la IA? Extinguirnos antes?
El homo politicus babosus ya nos venció hace tiempo.
no se regula nada que de dinero a los gordos estando sin regular...
Bah, dijo lo mismo de los videos de Leticia Sabater y aquí seguimos.