Portada
mis comunidades
otras secciones
![Un estudio de Apple demuestra que los modelos de IA basados en LLM son defectuosos porque no pueden razonar [ENG]](https://cdn.mnmstatic.net/cache/3c/de/media_thumb_2x-link-3988996.webp?1728812102)
#9:
#5 Los LLM no aumentan su capacidad de razonamiento con más capas. Actualmente no razonan nada de nada, a pesar de su enorme complejidad. Lo que hacen es predecir textos de salida en función de textos de entrada, comparando con millones de agrupaciones de textos de entrada y de salida.
Por más capas de deep learning que le pongas a eso, lo que consigues es mejores predicciones. Pero son predicciones, no razonamientos.
Por más capas de deep learning que le pongas a eso, lo que consigues es mejores predicciones. Pero son predicciones, no razonamientos.
#2:
¿Quién ha dicho lo contrario?
Lo interesante del tema es que han propuesto un benchmark.
Lo interesante del tema es que han propuesto un benchmark.
#17:
#11 Para nada. El cerebro de un mono y el de un humano son muy similares. Y ninguno de los dos funciona como un LLM.
Los monos razonan (menos que un humano, pero razonan), así que añadirle complejidad a su cerebro les permite razonar más.
Una calculadora no razona, y añadirle más "capas" no cambia eso.
Los monos razonan (menos que un humano, pero razonan), así que añadirle complejidad a su cerebro les permite razonar más.
Una calculadora no razona, y añadirle más "capas" no cambia eso.
Comentarios
¿Quién ha dicho lo contrario?
Lo interesante del tema es que han propuesto un benchmark.
#2 "¿Quién ha dicho lo contrario?" Mucha gente.
Sencillamente no entienden que no haya razonamiento ahí si le preguntas algo y te contesta con sentido.
#8 la gente que sabe ninguna fijo.
#8 tambien hay quien dice que la tierra es plana, pero nadie con sentido común piensa que los llm piensen.
#28 Por ejemplo el que me responde a mi comentario #9
O mis alumnos de inteligencia artificial (universidad), usando ChatGPT.
#27 La definición de sentido común es muy amplia.
#29 Que lo digan a principio de curso, ok. Que lo digan a finales ya sería preocupante.
#8 Puntualizo la pregunta: ¿quién, con un mínimo de conocimiento de la IA o con 15 minutos de uso de una IA, ha dicho que la IA razona?
#2 OpenAI mismo en sus anuncios de nuevos modelos:
"We are introducing OpenAI o1, a new large language model trained with reinforcement learning to perform complex reasoning. o1 thinks before it answers—it can produce a long internal chain of thought before responding to the user."
https://openai.com/index/learning-to-reason-with-llms/
#10 fijate que dice New. Ese modelo es otro sistema diferente al llm tradicional, solo hay que fijarse en el precio para saber q es otra historia.
#12 Si, dice nuevo pero sigue teniendo arquitectura transformer? Porque ese razonamiento no tiene por qué venir directamente del modelo.. Igual que usamos bases de datos de vectores para darle memoria.. quien quita que tengan algo por ejemplo en lugar de vectores grafos ? Pero siguen siendo transormer..
#16 que usando llm más algo consigan algo similar a razonamiento no quiere de cir q siga siendo llm no? Es otra cosa no es un llm al uso
#25 en este caso si es un modelo largo si sigue siendo un large language model.. eso es independiente de la arquitectura
#32 y el llm de que está hecho? Por que entonces no es un llm es l de lo qie está hecho... Y tu no eres una persona sino un montón de células...
#12 Yo he respondido a #2 que quien decía eso y OpenAI lo hace.
Pero vamos, incluso si asumimos que 4o1 realmente sea capaz de razonar, si te vas al modelo anterior 4o que es uno de los analizados en el paper de los científicos de Apple también lo dicen:
"We’re announcing GPT-4o, our new flagship model that can reason across audio, vision, and text in real time."
https://openai.com/index/hello-gpt-4o/
#19 Añado ahora después de mirar más en detalle el paper que también analizan o1-preview y o1-mini. Así que también aplica a mi anterior comentario.
#19 pero lo estás traduciendo mal, no es el sentido estricto se refiere a la capacidad del modelo para analizar, interpretar y entender información de diferentes tipos (audio, visión y texto) de manera coherente y contextual. Preguntale a. Chatgpt o cualquier modelo si la traducción exacta es razonar o no y verás.
Aunque si como modo de marketing usan la palabra si
#10 El o1 se está ofreciendo hace nada. Aparece la opción como o1- preview
#11 Para nada. El cerebro de un mono y el de un humano son muy similares. Y ninguno de los dos funciona como un LLM.
Los monos razonan (menos que un humano, pero razonan), así que añadirle complejidad a su cerebro les permite razonar más.
Una calculadora no razona, y añadirle más "capas" no cambia eso.
#17 Una calculadora no cambia sus "pesos" y forma de funcionar según operas con ella. Ni tiene cien mil millones del equivalente a nuestras neuronas con un cuatrillón de conexiones entre ellas. No es buen ejemplo.
#18 Las redes no tienen "el equivalente a nuestras neuronas" realmente, es una abstracción.
Un LLM no razona, sencillamente. Y si sabes que las redes tienen pesos, también sabrás que no tienen módulos de razonamiento.
Abandono esta discusión absurda.
#21 Ok. Quedamos aquí dentro de 30 años
Bueno ¿Y qué?
Eso de razonar está muy sobrevalorado.
#1 nada más hay que leer en menéame para comprobarlo
Si no se le exige razonar a las élites mundiales no nos vamos a andar con detallitos con la IA.
¿Cuándo dijo alguien que razonaban? En fin, afirmando lo obvio.
#6 Sin razonamiento, no puedes hacer inteligencia artificial porque cada 2 por 3 se equivoca, y por tanto quedas limitado a meras utilidades concretas, como por ejemplo buscar cáncer en una radiografía, crear moléculas, etc, pero nunca podrás crear una inteligencia artificial genérica fiable.
#24 Defíneme qué es razonar. A partir de ahí podremos discutir si la IA va a poder razonar algún día.
La IA, muy resumido, lo que hace es entrenarse y, a partir de ese entrenamiento, dar respuestas.
Es entrenamiento es específico. Rafa Nadal es uno de los mejores deportistas de todos los tiempos, pero me da a mí que si lo pones en natación sincronizada es posible que no sea tan bueno.
Repito ¿qué es razonar?
Vaya....no me lo esperaba
Pues dicen que nosequé de su cociente intelectual y que son más listos que la media...
#4 Para que veas de que poco sirven esos test de inteligencia.
#4 donde lo dicen?
A Apple lo que le pasa es que su IA ni está ni se le espera
Bueno ya vale para ministro de España entonces.
#37 ¿Cómo decide un humano? Comentas en #36 que tampoco lo sabemos. Igual no es tan diferente
Yo creo que es cuestión de tiempo. Igual que en el cerebro humano se desarrollo una nueva capa/neocórtex, daremos con la forma de poner otra capa a las redes actuales. Quizá dependa de una revolución energética que lo permita, no lo niego, pero yo soy de los que cree que esa capacidad de razonar llegará en breve, en menos de 100 años.
#5 Los LLM no aumentan su capacidad de razonamiento con más capas. Actualmente no razonan nada de nada, a pesar de su enorme complejidad. Lo que hacen es predecir textos de salida en función de textos de entrada, comparando con millones de agrupaciones de textos de entrada y de salida.
Por más capas de deep learning que le pongas a eso, lo que consigues es mejores predicciones. Pero son predicciones, no razonamientos.
#9 Algo similar se puede decir del cerebro de un mono vs el de un humano.
#11
Tarde o temprano, el mono la usa o la descarta, DECIDE, la integra y la une a otra idea. Còmo decide una máquina y en base a què.?
#5
Yo no pienso lo mismo,
no sé por qué se me ha metido en la cabeza que una máquina no puede superar a su creador humano, nunca será humano.
Un humano no sabe por qué piensa ni que mecanismos exactos para conseguir razonamiento, creatividad, emoción, y nunca podrá replicarlo en un ente inanimado.
#36 Un humano no sabe por qué piensa [...] y nunca podrá replicarlo en un ente inanimado.
Tampoco puede llegar a la luna, pues no ha nacido con alas para volar.