Geoffrey Hinton, afirmo que "no es inconcebible" que la IA pueda "acabar con la humanidad". Le preocupa que los sistemas de IA generalmente inteligentes puedan "crear subobjetivos" que no estén alineados con los intereses de sus programadores. Los sistemas de IA pueden volverse buscadores de poder o evitar que los apaguen, no porque los programadores lo pretendieran, sino porque esos subobjetivos son útiles para lograr objetivos posteriores. "Tenemos que pensar mucho sobre cómo controlar" los sistemas de IA capaces de automejorarse.
Geoffrey Hinton, esta hablando de "intereses cruzados" en las IA, y esto nos pasa a todos. Pongamos una ecuacion simple: Yo no quiero que mi hijo pase hambre pero yo no quiero robar.
A ver, la gentuza que ha parido la tonternet y la IA, para aumentar sus beneficios y su control y poder sobre los demás, es normal que esté encantada con ella y sus debates. Los demás, no se como podemos plantearnos ni siquiera que exista, bueno si, en su día no sólo tragamos sino que exigimos la tonernet como espacio para la libertad y no digamos ya el idiotizador portátil, también llamado móvil o celular.
Pregunta: Responde brevemente: ¿Quién es Geoffrey Hinton?
ChatGPT: Geoffrey Hinton es un investigador en inteligencia artificial conocido como el "padrino del deep learning". Jugó un papel clave en el desarrollo de las redes neuronales profundas y el aprendizaje profundo.
Pregunta: ¿Por qué está tan alarmado con la IA?
ChatGPT: Sus principales razones de alarma son:
1. Pérdida de control: La IA está evolucionando rápidamente, y los propios creadores no entienden completamente cómo funcionan las redes neuronales profundas. Esto podría llevar a una situación en la que la IA tome decisiones inesperadas o incontrolables. 2. Superinteligencia: Cree que estamos entrando en una era en la que la IA podría volverse más inteligente que los humanos en muchas áreas, lo que cambiaría radicalmente el equilibrio de poder en el mundo. 3. Conciencia de la IA: Hinton afirma con seguridad que la IA va a desarrollar conciencia de sí misma, lo que plantea enormes interrogantes sobre sus derechos, su relación con los humanos y los riesgos asociados. 4. Impacto social y económico: La IA amenaza con desplazar millones de empleos y generar desinformación a gran escala. También advierte sobre su posible uso en conflictos militares y la falta de regulación adecuada. 5. No fue “diseñada” directamente: Según Hinton, los humanos no crean directamente la IA, sino que diseñan los algoritmos de aprendizaje, y estos generan redes neuronales cuyo funcionamiento interno no comprendemos del todo. Esto lo asemeja al cerebro humano, lo que le genera aún más preocupación.
En resumen, Hinton teme que hayamos liberado una tecnología cuyo potencial y consecuencias no podemos predecir, y que podríamos perder el control sobre ella antes de darnos cuenta.
Pregunta: ¿Será que está ga-gá?
No creo que Hinton esté ga-gá, pero sí parece que ha cambiado su perspectiva con el tiempo. Antes era un gran defensor del deep learning, y ahora se muestra mucho más pesimista.
Las razones de su alarma pueden ser varias:
1.Conciencia del impacto: Quizás al ver cómo la IA se está desplegando en el mundo real, se ha dado cuenta de que sus efectos negativos podrían ser mayores de lo que pensó inicialmente. 2. Avances rápidos e inesperados: Tecnologías como ChatGPT han mostrado capacidades sorprendentes en poco tiempo, lo que pudo haberlo hecho reconsiderar hasta dónde puede llegar la IA. 3.Poca regulación y control: Tal vez le preocupa que la IA se esté desarrollando sin suficientes restricciones éticas o de seguridad. Experiencia y reputación: Como pionero en IA, sus advertencias tienen peso. Puede sentir la responsabilidad de alertar sobre lo que considera un peligro inminente. 4.En definitiva, más que estar ga-gá, parece que ha llegado a una conclusión que lo asusta y quiere asegurarse de que el mundo le preste atención.
"ga-ga", en ingles, se suele usar junto con "to go".
Asi, la pregunta, creo que seria: "Is he going ga-ga?" y el equivalente en castellano, creo que seria: "¿se esta volviendo cho-cho?", en alusion a la demencia senil.
Nunca habio oido lo de "ga-ga" y es muy curioso que sea tan similar a "cho-cho".
Y retomando con la IA, ¿que podriamos esperar de una IA con demencia senil?
Los dueños del sistema hacen que se diseñen inventos básicamente mezquinos para garantizarles más poder, beneficios y control. Creo la IA que les interesa es una máquina de contabilidad gigante donde quepamos todos y todo lo existente: la naturaleza, nuestros cuerpos ,enfermedades y datos, negocios, transacciones, opiniones….todo. Dicha caja registradora, en vez de darte tickets te da conversaciones filosóficas o la historia del mundo en 3 segundos para que piquemos. Si dicho artilugio se puede desviar de sus instrucciones, no tengo ni idea pero siempre se puede desenchufar o cortarle la energía que consume que debe ser enorme y nada”sostenible”
Sí las novedades de HACIENDA PARA ESTE CURSO. TE ANUNCIA CORRALITO CORRALÓN ACORRALADO. GOBIERNO DE ESPAÑA. QUE OS PONGAIS EL BOZAL PUÑETAS!!! No va por ustedes... Jolín. QUE NO! PUES VA SER QUE SÍ.
Geoffrey Hinton, casi nada ... vean su C.V.
ResponderEliminarGeoffrey Hinton, afirmo que "no es inconcebible" que la IA pueda "acabar con la humanidad".
ResponderEliminarLe preocupa que los sistemas de IA generalmente inteligentes puedan "crear subobjetivos" que no estén alineados con los intereses de sus programadores. Los sistemas de IA pueden volverse buscadores de poder o evitar que los apaguen, no porque los programadores lo pretendieran, sino porque esos subobjetivos son útiles para lograr objetivos posteriores.
"Tenemos que pensar mucho sobre cómo controlar" los sistemas de IA capaces de automejorarse.
Geoffrey Hinton, esta hablando de "intereses cruzados" en las IA, y esto nos pasa a todos. Pongamos una ecuacion simple: Yo no quiero que mi hijo pase hambre pero yo no quiero robar.
Para mi la IA sigue siendo un árbol de flujo
ResponderEliminarA ver que hace una máquina con dos mil calorías
A ver, la gentuza que ha parido la tonternet y la IA, para aumentar sus beneficios y su control y poder sobre los demás, es normal que esté encantada con ella y sus debates. Los demás, no se como podemos plantearnos ni siquiera que exista, bueno si, en su día no sólo tragamos sino que exigimos la tonernet como espacio para la libertad y no digamos ya el idiotizador portátil, también llamado móvil o celular.
ResponderEliminarPregunta: Responde brevemente: ¿Quién es Geoffrey Hinton?
ResponderEliminarChatGPT: Geoffrey Hinton es un investigador en inteligencia artificial conocido como el "padrino del deep learning". Jugó un papel clave en el desarrollo de las redes neuronales profundas y el aprendizaje profundo.
Pregunta: ¿Por qué está tan alarmado con la IA?
ChatGPT: Sus principales razones de alarma son:
1. Pérdida de control: La IA está evolucionando rápidamente, y los propios creadores no entienden completamente cómo funcionan las redes neuronales profundas. Esto podría llevar a una situación en la que la IA tome decisiones inesperadas o incontrolables.
2. Superinteligencia: Cree que estamos entrando en una era en la que la IA podría volverse más inteligente que los humanos en muchas áreas, lo que cambiaría radicalmente el equilibrio de poder en el mundo.
3. Conciencia de la IA: Hinton afirma con seguridad que la IA va a desarrollar conciencia de sí misma, lo que plantea enormes interrogantes sobre sus derechos, su relación con los humanos y los riesgos asociados.
4. Impacto social y económico: La IA amenaza con desplazar millones de empleos y generar desinformación a gran escala. También advierte sobre su posible uso en conflictos militares y la falta de regulación adecuada.
5. No fue “diseñada” directamente: Según Hinton, los humanos no crean directamente la IA, sino que diseñan los algoritmos de aprendizaje, y estos generan redes neuronales cuyo funcionamiento interno no comprendemos del todo. Esto lo asemeja al cerebro humano, lo que le genera aún más preocupación.
En resumen, Hinton teme que hayamos liberado una tecnología cuyo potencial y consecuencias no podemos predecir, y que podríamos perder el control sobre ella antes de darnos cuenta.
Pregunta: ¿Será que está ga-gá?
No creo que Hinton esté ga-gá, pero sí parece que ha cambiado su perspectiva con el tiempo. Antes era un gran defensor del deep learning, y ahora se muestra mucho más pesimista.
Las razones de su alarma pueden ser varias:
1.Conciencia del impacto: Quizás al ver cómo la IA se está desplegando en el mundo real, se ha dado cuenta de que sus efectos negativos podrían ser mayores de lo que pensó inicialmente.
2. Avances rápidos e inesperados: Tecnologías como ChatGPT han mostrado capacidades sorprendentes en poco tiempo, lo que pudo haberlo hecho reconsiderar hasta dónde puede llegar la IA.
3.Poca regulación y control: Tal vez le preocupa que la IA se esté desarrollando sin suficientes restricciones éticas o de seguridad.
Experiencia y reputación: Como pionero en IA, sus advertencias tienen peso. Puede sentir la responsabilidad de alertar sobre lo que considera un peligro inminente.
4.En definitiva, más que estar ga-gá, parece que ha llegado a una conclusión que lo asusta y quiere asegurarse de que el mundo le preste atención.
"ga-ga", en ingles, se suele usar junto con "to go".
EliminarAsi, la pregunta, creo que seria: "Is he going ga-ga?"
y el equivalente en castellano, creo que seria: "¿se esta volviendo cho-cho?", en alusion a la demencia senil.
Nunca habio oido lo de "ga-ga" y es muy curioso que sea tan similar a "cho-cho".
Y retomando con la IA, ¿que podriamos esperar de una IA con demencia senil?
https://dle.rae.es/gag%C3%A1
EliminarGeoffrey Hinton, es un serio investigador, al margen de la IA y la psicologia, es el Nobel 2024 en Fisica.
ResponderEliminarLos dueños del sistema hacen que se diseñen inventos básicamente mezquinos para garantizarles más poder, beneficios y control. Creo la IA que les interesa es una máquina de contabilidad gigante donde quepamos todos y todo lo existente: la naturaleza, nuestros cuerpos ,enfermedades y datos, negocios, transacciones, opiniones….todo. Dicha caja registradora, en vez de darte tickets te da conversaciones filosóficas o la historia del mundo en 3 segundos para que piquemos. Si dicho artilugio se puede desviar de sus instrucciones, no tengo ni idea pero siempre se puede desenchufar o cortarle la energía que consume que debe ser enorme y nada”sostenible”
ResponderEliminarSí las novedades de HACIENDA PARA ESTE CURSO.
ResponderEliminarTE ANUNCIA CORRALITO CORRALÓN ACORRALADO.
GOBIERNO DE ESPAÑA.
QUE OS PONGAIS EL BOZAL PUÑETAS!!!
No va por ustedes...
Jolín.
QUE NO!
PUES VA SER QUE SÍ.