K181. Carlos Fenollosa. La caja de Pandora

25 snips

May 30, 2025

Carlos Fenollosa, ingeniero informático y autor de "La Singularidad", discute el futuro de la inteligencia artificial y su impacto en la humanidad. Habla sobre la singularidad, un momento crucial donde la IA podría superar la inteligencia humana, planteando tanto utopías como peligros. También explora el dilema ético de las máquinas con autonomía, la necesidad de mantener el control humano y la transformación laboral que la IA promete traer. Además, reflexiona sobre el valor educativo de los videojuegos en la enseñanza.

Ask episode

AI Snips

Chapters

Books

Transcript

Episode notes

INSIGHT

Concepto de singularidad

La singularidad es cuando máquinas controlan más nuestro destino que los humanos.
Carlos Fenollosa cree que esto no ocurrirá pronto ni es deseable ceder ese control.

ADVICE

Botón rojo para apagar IA

Siempre debe existir un botón para apagar las máquinas.
Aunque es una broma, hay preocupaciones de seguridad en empresas como OpenAI.

INSIGHT

Aprendizaje y generalización de la IA

La IA aprende igual que los humanos: a partir de observaciones y patrones.
La gran novedad es la capacidad de generalizar conocimientos a problemas nuevos.

Get the Snipd Podcast app to discover more snips from this episode

Get the app

“La singularidad es el momento en que una IA alcanza tal nivel de desarrollo que iguala o supera la inteligencia y capacidades humanas en todas las áreas, incluyendo la posibilidad de mejorarse a sí misma, lo cual crea un interés compuesto que incrementa de forma exponencial sus habilidades. De todas las revoluciones de la historia, la singularidad es la de mayor importancia porque tiene el potencial para ser la última. Si la humanidad es capaz de construir una IA «superinteligente» u omnipotente, su uso último será o bien ayudarnos a crear una utopía o bien el fin del mundo. Emocionante a la vez que terrorífico.” Carlos Fenollosa en La singularidad.

Kapital es posible gracias a sus colaboradores:

⁠Indexa Capital⁠. Gestión pasiva en fondos indexados.

No es fácil encontrar un lugar seguro para tu dinero. En un mercado lleno de productos tramposos, me gusta colaborar o poner el micro a los pocos gestores, pasivos o activos, con una propuesta honesta. La fortaleza de Indexa Capital, que entraría dentro de la gestión pasiva, es una cartera de bajo coste y diversificada. Dos de sus fundadores, Unai y François, han pasado por el podcast. Si te interesa, aquí tienes mi enlace de registro para ahorrarte la comisión sobre los primeros 15.000 euros. Son tiempos inciertos en los mercados y esto significa que debes buscar opciones serias para tu dinero. Indexa Capital es sin duda una de ellas.

Patrocina Kapital. Toda la información en este link.

Índice:

1:30 Un botón rojo para apagar las máquinas.

5:47 ¿Qué es la inteligencia artificial?

16:10 Pienso, luego existo.

26:15 Recuerdos antes de nacer.

31:28 El experimento de la habitación china.

42:48 Ilusión de autonomía.

49:23 El dilema del tranvía.

55:01 Los primeros empleos explican tu productividad a largo plazo.

1:07:57 La destrucción creativa de Schumpeter.

1:19:36 Querer aprender.