00:00:00
[Música]
00:00:03
a medida que la Inteligencia artificial
00:00:05
avanza podemos confiar en el programa
00:00:07
Open y en su fundador samman soy asimar
00:00:11
y hoy voy a reunirme con samman para
00:00:14
hablar Bienvenidos a expen
00:00:18
[Música]
00:00:28
chili como el año en que la ia irrumpió
00:00:31
en la conciencia pública Open Ai está al
00:00:34
mando del cambio Pero qué es lo que
00:00:36
piensa su fundador Cuál es su objetivo Y
00:00:40
seremos parte del cambio samman Es La
00:00:43
Estrella de rock and roll de la
00:00:44
Inteligencia artificial ha recaudado
00:00:47
miles de millones de dólares de
00:00:48
Microsoft y entre sus primeros
00:00:50
patrocinadores estaban elon musk y ri
00:00:53
Hoffman ha sido un encuentro increíble y
00:00:55
Cuanto más sabemos sobre la ia más
00:00:57
preguntas surgen al respecto
00:01:00
Me encontré con Sam al comienzo de una
00:01:02
Gira Mundial que cubriría 20 países en
00:01:04
solo 30 días conversamos en la
00:01:07
University College de Londres frente a
00:01:09
una audiencia en vivo de casi 1000
00:01:16
personas debes estar muy ocupado Estás
00:01:19
en medio de una enorme Gira
00:01:22
Mundial cómo te sientes ha sido genial
00:01:25
al principio no sabía si iba a
00:01:27
divertirme tení muchas ganas de hacerlo
00:01:30
porque acudir a los medios de
00:01:31
comunicación de San Francisco no era una
00:01:33
opción para mí entonces se me ocurrió la
00:01:36
idea de viajar y conocer gente
00:01:38
personalmente Así que recibimos
00:01:40
comentarios muy útiles sobre lo que la
00:01:42
gente quiere que hagamos qué piensa
00:01:44
sobre la ia que el entusiasma que le
00:01:46
preocupa y lo he pasado muy bien te he
00:01:49
visto tomando notas a mano en un
00:01:51
cuaderno mientras escuchas a la gente
00:01:54
todavía tomo notas y escribo listas a
00:01:56
mano seguramente tengamos que aprender
00:01:59
algo de eso No creo que así
00:02:03
sea cuando fundaste Open Ai en
00:02:07
2015 imaginaste que unos pocos años
00:02:10
después casi por necesidad tendrías que
00:02:13
subirte a un avión y volar alrededor del
00:02:15
mundo para escuchar lo que personas de
00:02:17
todos los continentes tenían para
00:02:20
decirte siempre tuve eso en mente cuando
00:02:23
dirigía White combinator intentaba
00:02:25
viajar lo más posible para conocer gente
00:02:28
creo que eso es algo importante que la
00:02:29
industria tecnológica del área de la
00:02:31
Bahía no hace lo suficiente Pero yo lo
00:02:34
disfruto también Creo que viajando
00:02:36
adquirí algunos conocimientos muy
00:02:38
importantes de esa manera logras ver
00:02:41
perspectivas muy
00:02:43
diferentes cuando iniciamos Open Ai
00:02:45
pensé que probablemente No funcionaría
00:02:48
pero si lo hacía creí que sería una
00:02:50
tecnología impactante y que recibir
00:02:51
aportes del mundo sería un factor clave
00:02:54
para el
00:02:55
proceso ya has logrado bastantes avances
00:02:58
en esta herramienta has estado en países
00:03:00
del sur global y también en países de
00:03:03
Europa que son más ricos quiero que me
00:03:05
des una respuesta que sea lo más breve y
00:03:07
rápida posible Cómo fue cambiando la
00:03:09
actitud del público Y qué te
00:03:12
sorprendió hay muchos aspectos
00:03:14
interesantes en los que la actitud de
00:03:16
las personas no han cambiado creo que
00:03:18
hay mucho entusiasmo por parte de las
00:03:20
personas que aplican la tecnología a
00:03:22
todo y también hay miedo por parte de
00:03:25
las personas que no usan la tecnología o
00:03:27
de las que la usan mucho y se preguntan
00:03:29
Cuáles serán los
00:03:32
límites las preocupaciones son
00:03:34
diferentes dependiendo del lugar en el
00:03:36
caso del sur global se preguntan Cuáles
00:03:38
son los beneficios económicos de esta
00:03:40
tecnología por ejemplo Cómo podría
00:03:43
ayudar con los problemas de Educación y
00:03:44
salud y en los países más desarrollados
00:03:47
se preocupan más por cómo la ia podría
00:03:49
ayudar a abordar problemas a largo plazo
00:03:51
y tiene
00:03:53
sentido Pero notamos que hay aspectos
00:03:55
que son universales como el entusiasmo
00:03:57
por la tecnología el deseo de participar
00:04:00
el deseo de garantizar que los valores
00:04:02
de todos estén representados además
00:04:04
tenemos una especie de gobernanza ya que
00:04:06
tenemos la posibilidad de plasmar las
00:04:08
necesidades en los sistemas que
00:04:09
construimos de repartir beneficios y de
00:04:12
crear un acceso compartido justo
00:04:14
teniendo en cuenta el modelo de silicon
00:04:16
Valley estás en una posición sin
00:04:18
precedentes desde muchos puntos de vista
00:04:20
Generalmente el fundador de una empresa
00:04:23
o de un servicio Como este posee mucho
00:04:25
capital También recibe un salario Y
00:04:27
tiene ventajas financieras tienes nada
00:04:30
de eso Simplemente retiras lo suficiente
00:04:32
para tu seguro médico Entonces qué es lo
00:04:35
que te motiva a seguir con este proyecto
00:04:37
considerando El desafío que supone y las
00:04:39
exigencias de tiempo y de
00:04:42
energía me parece un reto fascinante
00:04:45
realmente no se me ocurre nada más
00:04:47
emocionante en lo que trabajar Me siento
00:04:49
muy privilegiado de vivir en este
00:04:51
momento de la historia y más aún de
00:04:53
poder trabajar con este equipo en
00:04:55
particular no existe otra forma en la
00:04:57
que preferiría pasar los días entiendo
00:05:00
fui muy afortunado y gané mucho dinero
00:05:01
al principio de mi carrera entonces creo
00:05:05
que eso fue de gran ayuda tienes
00:05:07
personas que sean tus
00:05:09
mentores sí me siento muy afortunado de
00:05:12
haber tenido grandes mentores también
00:05:15
creo que es importante no intentar
00:05:16
aprender demasiado de otros y hacer las
00:05:18
cosas a mi manera siempre he tratado de
00:05:20
tener un equilibrio Aunque todavía no lo
00:05:22
logré por
00:05:24
completo pero creo que una de las cosas
00:05:26
mágicas de silicon B Es lo mucho que se
00:05:28
preocupa la gente por la tutoría y la
00:05:30
enseñanza y así es como aprendí más de
00:05:33
lo que me correspondía Si tuvieras que
00:05:35
elegir una o dos lecciones de tus
00:05:37
grandes mentores Cuáles serían bueno
00:05:39
Paul gram dirigía la que hoy es mi área
00:05:42
antes de que yo
00:05:43
llegara Gracias a él muchas personas y
00:05:46
yo aprendimos cómo funcionan las
00:05:48
empresas emergentes y cómo se diseña el
00:05:50
manual de estrategias para que sean
00:05:52
exitosas él fue quien nos enseñó en gran
00:05:54
medida qué es lo que se necesita para
00:05:56
crear una organización de alto
00:05:58
funcionamiento y cuál son las trampas
00:06:00
que hay que
00:06:01
evitar y sin duda de elon aprendí todas
00:06:05
las cosas que son posibles de hacer y
00:06:07
que no necesariamente hay que aceptar
00:06:08
que nuestra tecnología no es algo que se
00:06:10
puede ignorar eso ha sido muy valioso
00:06:14
Creo que estas dos lecciones de las que
00:06:16
hablas se pueden ver plasmadas en Open
00:06:18
Ai Y en todo lo que has logrado en estos
00:06:20
últimos años en nuestro último encuentro
00:06:23
hace un par de años Tú hablabas de estos
00:06:25
grandes modelos de lenguaje y
00:06:27
actualmente estamos utilizando gpt
00:06:29
pero en aquel entonces lo más moderno
00:06:31
era gpt3 y recuerdo que mencionaste que
00:06:34
para pasar del sistema gpt2 al gpt3
00:06:37
había que dar solo un pequeño paso
00:06:39
dijiste que la brecha entre ambos era
00:06:41
mínima dirías que llegar a gpt 4 también
00:06:44
implicó dar otro pequeño
00:06:48
paso así lo veremos en
00:06:52
retrospectiva eso creo en su momento fue
00:06:55
un gran cambio pero en retrospectiva lo
00:06:57
veremos diferente bueno por un tiempo se
00:07:00
sintió como un gran salto pero la gente
00:07:03
ya está preguntando en qué estamos
00:07:04
trabajando y cuándo se lanza gpt 5 y eso
00:07:08
está bien así se maneja el mundo y así
00:07:11
es como debe ser nos acostumbramos a
00:07:14
todo establecemos nuevas bases muy
00:07:17
rápido quiero preguntarte Cuáles fueron
00:07:20
los conocimientos que adquiriste durante
00:07:22
el desarrollo de gpt 4 y en los meses
00:07:24
posteriores a su lanzamiento que fueron
00:07:26
diferentes a los de los modelos
00:07:28
anteriores creo que terminamos de
00:07:30
entrenar gpt 4 unos 8 meses antes de
00:07:33
lanzarlo y ese fue con diferencia el
00:07:36
tiempo más largo de prelanzamiento de un
00:07:38
modelo con gpt3 aprendimos todas las
00:07:40
formas en las que estas cosas pueden
00:07:42
fallar cuando las liberas al mundo
00:07:44
implementamos modelos de forma
00:07:46
incremental para darle al mundo tiempo
00:07:48
para adaptarse y también para entender
00:07:50
qué es lo que podría pasar Cuáles son
00:07:52
los riesgos Cuáles son los beneficios y
00:07:55
Cuáles deberían ser las reglas pero no
00:07:57
queremos lanzar un modelo de oso Así que
00:08:00
dedicamos más tiempo a aplicar lo que
00:08:02
aprendimos de las versiones anteriores
00:08:04
de gpt ahora sabemos que si dedicamos
00:08:06
tiempo alinear auditar y probar todo
00:08:09
nuestro sistema de seguridad podemos
00:08:11
lograr Muchos avances básicamente
00:08:14
construiste un modelo que es una máquina
00:08:16
increíblemente compleja el precursor
00:08:18
gpt3 tenía
00:08:20
175000 millones de parámetros como
00:08:23
controles deslizantes en un ecualizador
00:08:25
gráfico Y eso es mucha configuración y
00:08:28
el modelo gpt cuatro es aún más grande
00:08:30
aunque no has dicho formalmente cuáles
00:08:32
son sus dimensiones Entonces mi pregunta
00:08:35
es qué es lo que haces con esa máquina
00:08:37
para conseguir que haga lo que queremos
00:08:39
y al mismo tiempo que no haga lo que no
00:08:42
queremos ese es el problema de
00:08:43
alineación que es en lo que has
00:08:45
trabajado durante 8 meses sí quiero
00:08:48
dejar algo bien en claro el hecho de que
00:08:50
seamos capaces de alinear gpt 4 no
00:08:53
significa que no pueda tener fallas de
00:08:55
eso no hay ninguna duda tenemos una
00:08:58
enorme cantidad de trabajo por hacer
00:09:00
para descubrir cómo vamos a alinear la
00:09:01
superinteligencia y sistemas mucho más
00:09:03
poderosos que los que tenemos ahora me
00:09:06
preocupa que la gente piense que hemos
00:09:08
resuelto el problema cuando decimos que
00:09:10
podemos alinear gpt 4 lo mejor posible
00:09:13
porque no es así pero creo que es
00:09:16
increíble que podamos tomar el modelo
00:09:17
base de gpt 4 que si cualquier persona
00:09:20
lo usa puede comprobar que no es
00:09:21
demasiado
00:09:23
impresionante O al menos que es
00:09:25
extremadamente difícil de usar y con
00:09:27
relativamente poco esfuerzo y pocos
00:09:29
datos podemos aplicar rlf Y lograr que
00:09:32
el modelo sea fácil de utilizar y esté
00:09:34
alineado rlf significa aprendizaje por
00:09:37
refuerzo con retroalimentación humana
00:09:40
tengo entendido que esa es la forma en
00:09:42
la que la gente responde preguntas de
00:09:44
gpt 4 y le indica Cuándo ha cumplido con
00:09:46
las expectativas Y cuándo no Así es se
00:09:49
utilizan pequeñas cantidades de
00:09:51
retroalimentación poco
00:09:53
sofisticadas dado que estos modelos se
00:09:55
pueden utilizar con lenguaje natural es
00:09:57
normal pensar que la máquina se alimenta
00:09:59
de comentarios muy explicativos y
00:10:01
desarrollados Pero la realidad es que el
00:10:03
sistema se basa en algo tan simple como
00:10:05
pulgares arriba y pulgares abajo y creo
00:10:08
que es impresionante que funcione así lo
00:10:11
que me resulta increíble es la poca
00:10:12
cantidad de rlf En comparación con los
00:10:15
miles de millones de palabras con las
00:10:17
que se entrenan estos modelos Cuántos
00:10:19
comentarios se necesitan para que sean
00:10:21
lo más precisos posible eso varía
00:10:23
bastante dependiendo del caso pero no
00:10:26
muchos dijiste que no estás entrenando a
00:10:29
gpt 5 en este momento y tengo curiosidad
00:10:31
de saber por qué es porque no hay
00:10:33
suficiente información o porque no hay
00:10:36
suficientes chips de computadora para
00:10:37
entrenarlo o fue porque identificaste
00:10:40
ciertas necesidades cuando estabas
00:10:41
creando gpt 4 y Pensaste que tenías que
00:10:44
descubrir Cómo abordarlas antes de
00:10:46
construir el siguiente
00:10:48
modelo estos modelos son muy difíciles
00:10:51
de construir pasaron casi tres años
00:10:53
entre el lanzamiento de gpt3 y gpt 4
00:10:56
lleva mucho tiempo y hay mucha
00:10:57
investigación por hacer también hay
00:10:59
muchas cosas que queremos hacer con gpt
00:11:01
4 ahora que está terminado como estudiar
00:11:04
el periodo de postform mación queremos
00:11:06
expandirlo es increíble que se pueda
00:11:08
lanzar un iPhone cada año pero nosotros
00:11:10
vamos a tener una cadencia de más de un
00:11:12
año mencionaste que hay mucha más
00:11:15
investigación por hacer y hay varios
00:11:16
investigadores de ia con mucha
00:11:18
experiencia que han dicho que los
00:11:20
modelos de lenguaje grande son limitados
00:11:22
sostienen que estos grandes modelos de
00:11:24
lenguaje no aumentarán su nivel de
00:11:26
rendimiento y que no se puede construir
00:11:29
artificial general a partir de ellos
00:11:31
estás de acuerdo con Estas ideas en
00:11:34
primer lugar creo que la mayoría de esos
00:11:36
comentaristas se han equivocado
00:11:38
terriblemente sobre lo que los modelos
00:11:39
grandes de lenguaje podrán hacer muchos
00:11:42
de ellos ahora han pasado a decir que no
00:11:44
es que esta tecnología no funcione sino
00:11:46
que lo hace demasiado bien y que tenemos
00:11:48
que detenerla porque es demasiado
00:11:50
peligrosa otros simplemente han dicho
00:11:52
que todo esto no supone ningún
00:11:53
aprendizaje
00:11:55
real algunos de los más sofisticados
00:11:58
opinan que los grandes modelos de
00:11:59
lenguaje funcionan mejor de lo esperado
00:12:02
pero no tanto como la Inteligencia
00:12:03
artificial general según el paradigma
00:12:05
actual Y eso es cierto así que creo que
00:12:08
debemos esforzarnos lo más que podamos
00:12:10
pero estamos trabajando duro para
00:12:12
intentar descubrir el próximo paradigma
00:12:14
lo que a mí más me entusiasma del mundo
00:12:16
de la Inteligencia artificial general es
00:12:18
que estos modelos en algún momento nos
00:12:20
ayudarán a descubrir nuevas ciencias de
00:12:22
manera muy rápida y
00:12:24
significativa pero creo que la forma más
00:12:26
rápida de lograr eso es ir más allá del
00:12:28
par gpt Tenemos que trabajar para crear
00:12:31
modelos que puedan generar conocimientos
00:12:33
aportar nuevas ideas descubrir cosas que
00:12:35
no se han visto antes he estado usando
00:12:38
gpt 4 de forma obsesiva me alegra
00:12:41
saberlo sobre todo en los últimos meses
00:12:43
es Algo
00:12:44
extraordinario y siento que a veces
00:12:47
intenta generar nuevos conocimientos y
00:12:49
no tengo pruebas pero trabajo en el área
00:12:51
de investigación y siento que mi teoría
00:12:53
puede ser acertada qué opinas de esto Sí
00:12:57
hay algo de eso puede hacer cosas
00:12:59
pequeñas pero no puede autocorregirse y
00:13:01
mantenerse lo suficientemente centrado
00:13:03
como para que podamos simplemente
00:13:05
pedirle que Cure el cáncer por ejemplo
00:13:07
eso no sucederá bien pero sería bueno
00:13:10
que pudiera hacerlo hablaste sobre
00:13:13
diferentes vías de investigación que
00:13:14
podrían ser
00:13:16
necesarias tienes un par de
00:13:18
descubrimientos favoritos que crees que
00:13:20
podrían ser el siguiente paso de la
00:13:21
humanidad en la construcción de estas
00:13:23
tecnologías no hay nada que me Inspire
00:13:25
la suficiente confianza como para
00:13:27
apostar a eso pero seguimos
00:13:32
buscándolo estamos hablando de cuán
00:13:34
poderosas son estas tecnologías Pero
00:13:36
obviamente También tienen ciertas
00:13:38
desventajas Comencemos mencionando una
00:13:41
que hoy en día es una realidad como
00:13:43
sabemos tanto gpt cu como también otros
00:13:46
grandes modelos de lenguaje son muy
00:13:48
buenos para producir texto con sonido
00:13:50
humano y eso plantea un riesgo de
00:13:53
desinformación más que nada a medida que
00:13:55
nos acercamos a elecciones importantes
00:13:57
en Estados Unidos Qué tan grave
00:13:59
consideras que es ese riesgo y teniendo
00:14:02
en cuenta que ese evento es tan próximo
00:14:04
qué podríamos hacer y en qué podríamos
00:14:06
ayudarte creo que el tema de la
00:14:08
desinformación se está convirtiendo en
00:14:10
un gran desafío en el mundo y creo que
00:14:13
es un
00:14:14
asunto delicado ya hemos desconfiado de
00:14:18
cosas que resultaron ser ciertas sí
00:14:21
expulsamos personas de las plataformas
00:14:23
por creer que
00:14:24
mentían Entonces vamos a tener que
00:14:26
encontrar un
00:14:27
equilibrio
00:14:30
tenemos que aprender a preservar la
00:14:31
capacidad de equivocarnos Al momento de
00:14:33
exponer información importante sin que
00:14:35
nadie piense que todo se trata de
00:14:37
desinformación intencional utilizada
00:14:39
para
00:14:40
manipular pero creo que la manipulación
00:14:43
de información hoy en día es un problema
00:14:45
real y hemos visto más de eso a medida
00:14:47
que avanza la tecnología el gpt 3.5 es
00:14:51
bueno entonces de haber habido una ola
00:14:53
de desinformación no habría llegado
00:14:55
antes creo que los humanos son buenos
00:14:58
información y tal vez los modelos gpt lo
00:15:00
hagan más fácil pero eso no es lo que me
00:15:03
preocupa si bien es tentador comparar la
00:15:06
ia con las redes sociales son muy
00:15:08
diferentes puedes generar toda la
00:15:10
desinformación que quieras Con gpt 4
00:15:13
pero si no se difunde no servirá de
00:15:15
mucho entonces la cuestión está en los
00:15:17
canales de difusión pero creo que lo que
00:15:20
vale la pena considerar es que será
00:15:22
diferente con la ia y con qué canales
00:15:24
que puedan ayudar a difundirla se
00:15:26
conectará Pienso que una cosa que será
00:15:28
diferente es la capacidad persuasiva
00:15:30
interactiva personalizada que tienen
00:15:32
estos
00:15:33
sistemas entonces gracias a esta
00:15:36
Innovación podría recibir una llamada
00:15:38
automática y al atenderla podría
00:15:40
escuchar un texto pronunciado por una
00:15:42
voz que suena muy realista el mensaje
00:15:45
leído por la máquina sería personalizado
00:15:47
por lo tanto sería emocionalmente
00:15:49
resonante y extremadamente realista creo
00:15:52
que ese será el nuevo desafío y hay
00:15:54
mucho que hacer al respecto podemos
00:15:57
incorporar rechazos en los modelos y
00:15:58
crear sistemas de seguimiento para que
00:16:00
la gente no pueda hacerlo a escala pero
00:16:03
vamos a tener potentes modelos de código
00:16:05
abierto en el mundo y creo que es
00:16:07
importante que así sea y las técnicas de
00:16:10
I abierta que podemos hacer en nuestros
00:16:12
sistemas no funcionarán de la misma
00:16:13
manera bien quiero hacer hincapié en
00:16:16
esto Open Ai cuenta con una Api Entonces
00:16:19
si algún cliente en particular tiene un
00:16:21
mal comportamiento lo puedes Desactivar
00:16:24
mientras que un modelo de código abierto
00:16:26
puede ser ejecutado por cualquier
00:16:27
persona en su computadora de escritorio
00:16:30
Y eso es mucho más difícil de controlar
00:16:33
sí resolver Esto no puede ser solo
00:16:35
responsabilidad de Open Ai recibes ayuda
00:16:38
hay regulaciones que podemos implementar
00:16:40
que ayudarían con ese problema pero la
00:16:43
verdadera solución es educar a la gente
00:16:45
sobre lo que está sucediendo hemos
00:16:47
pasado por esto antes cuando Photoshop
00:16:49
se popularizó hubo un breve periodo en
00:16:51
el que la gente creía que lo que veía en
00:16:53
ciertas imágenes era real pero luego
00:16:55
aprendió que eso podía ser falso Aunque
00:16:57
algunas personas todavía caen en estas
00:16:59
cosas hoy se sabe que cualquier imagen
00:17:01
podría estar manipulada digitalmente
00:17:04
eso está claro lo mismo sucederá con
00:17:07
estas nuevas tecnologías pero cuanto
00:17:09
antes podamos educar a la gente al
00:17:11
respecto mejor porque la resonancia
00:17:13
emocional va a ser mucho
00:17:17
mayor pasemos a la educación aquí
00:17:19
estamos en una universidad global y por
00:17:22
supuesto la educación está estrechamente
00:17:24
relacionada con el mercado laboral en
00:17:27
ocasiones hemos visto surgir nuevas
00:17:29
tecnologías poderosas que realmente han
00:17:32
impactado la dinámica de poder entre
00:17:34
trabajadores y empleadores por ejemplo a
00:17:36
finales del siglo XVII se produjo la
00:17:39
pausa de engels el momento en Inglaterra
00:17:41
en el que el pib aumentó y los salarios
00:17:43
de los trabajadores se estancaron cuando
00:17:45
analizamos la ia es posible que veamos
00:17:48
Algo similar y creo que ni tú ni yo
00:17:50
queremos que los historiadores del
00:17:51
futuro creen el concepto de la pausa de
00:17:53
oldman para describir el momento en el
00:17:56
que los salarios sufrieron bajo un punto
00:17:58
de presión salarial debido al
00:17:59
surgimiento de la nueva tecnología
00:18:02
Cuáles son las intervenciones necesarias
00:18:04
para garantizar que haya una especie de
00:18:06
distribución equitativa de los
00:18:08
beneficios de la
00:18:10
tecnología Antes que nada necesitamos
00:18:13
ganancias y crecimiento Creo que uno de
00:18:15
los problemas del mundo desarrollado es
00:18:17
que no tenemos suficiente crecimiento
00:18:19
sostenible Y eso está causando todo tipo
00:18:21
de problemas por eso me entusiasma que
00:18:24
esta tecnología pueda recuperar los
00:18:26
aumentos de productividad que se
00:18:27
perdieron en en las últimas décadas
00:18:30
algunas tecnologías reducen la
00:18:31
desigualdad por naturaleza y otras la
00:18:33
aumentan no Estoy totalmente seguro de
00:18:36
Qué pasará con esta Pero creo que es una
00:18:38
tecnología cuyo objetivo es reducir la
00:18:40
desigualdad según mi visión con respecto
00:18:43
al modelo básico del mundo el costo de
00:18:45
la inteligencia Y el costo de la energía
00:18:47
son los dos insumos limitantes y si
00:18:49
podemos hacerlos dramáticamente más
00:18:51
baratos y más accesibles eso ayudará más
00:18:53
a los pobres que a los ricos francamente
00:18:56
Aunque la realidad es que ayudará mucho
00:18:57
a todos esta tecnología beneficiará a
00:19:00
todo el
00:19:01
mundo las personas que están en esta
00:19:03
sala pueden acudir a algún tipo de
00:19:05
trabajo cognitivo intelectual pero la
00:19:07
mayoría de las personas en el mundo
00:19:09
muchas veces no pueden hacerlo y si
00:19:11
podemos mercantilizar eso será una
00:19:13
importante fuerza igualadora puedo decir
00:19:16
algo más Sí yo pienso que surgirán
00:19:19
muchos más trabajos junto con esta
00:19:20
Revolución tecnológica Y creo que eso es
00:19:23
importante no creo en absoluto que este
00:19:25
sea el fin del trabajo creo que en el
00:19:27
futuro pensaremos que los trabajos que
00:19:29
hacemos hoy son mundanos y estaremos
00:19:31
haciendo cosas más
00:19:33
interesantes sigo opinando que tendremos
00:19:36
que pensar en la distribución de la
00:19:37
riqueza de manera diferente y eso está
00:19:40
bien De hecho cambiamos de opinión
00:19:42
después de cada Revolución tecnológica y
00:19:45
dadas las características de la que
00:19:46
estamos viviendo hoy creo que será todo
00:19:49
un desafío lograr que el acceso a estos
00:19:50
sistemas se distribuya de manera justa y
00:19:53
en las revoluciones tecnológicas
00:19:55
anteriores lo que nos unió fueron las
00:19:57
estructuras políticas
00:19:59
me refiero al sindicalismo y los
00:20:00
colectivos laborales de finales del
00:20:02
siglo XIX cuando analizamos algo como la
00:20:05
Inteligencia artificial te imaginas los
00:20:07
tipos de estructuras que se necesitarían
00:20:09
para reconocer y redistribuir las
00:20:11
ganancias del trabajo no remunerado o
00:20:13
mal remunerado que a menudo no se
00:20:15
reconoce como por ejemplo el trabajo que
00:20:18
hoy realizan las mujeres en todo el
00:20:21
mundo Bueno creo que habrá un cambio muy
00:20:24
importante y también esperado en cuanto
00:20:27
a los tipos de trabajo que valoramos hoy
00:20:29
en día
00:20:31
y
00:20:33
además proporcionar conexión humana será
00:20:36
Como debería ser uno de los tipos de
00:20:38
trabajo más valorados y ocurrirá de
00:20:40
maneras diferentes Entonces cuando
00:20:43
reflexionamos sobre cómo ha progresado
00:20:44
la illa hasta este punto qué lecciones
00:20:47
podemos extraer si es que hay alguna
00:20:49
sobre el camino hacia la
00:20:51
superinteligencia artificial y cómo
00:20:53
podría surgir existe realmente la idea
00:20:55
de tener una Inteligencia artificial que
00:20:57
se sea más capaz que los humanos en
00:20:59
absolutamente todos y cada uno de los
00:21:01
ámbitos que
00:21:03
conocemos
00:21:05
bueno Cómo puedo resumirlo tienes
00:21:09
tiempo creo que hay muchas cosas que
00:21:11
hemos aprendido hasta ahora con respecto
00:21:13
a la
00:21:14
ia pero una de ellas es que tenemos un
00:21:17
algoritmo que puede aprender genuina Y
00:21:19
verdaderamente y otra es que
00:21:21
predeciblemente mejora con la práctica
00:21:23
estos dos hechos se dan en conjunto y
00:21:26
creo que aunque pensamos en todos los
00:21:28
días no valoramos lo importante que es
00:21:32
esta tecnología seguirá
00:21:34
desarrollándose otra observación que
00:21:36
quiero destacar es que ocasionalmente
00:21:38
tendremos estos aumentos discontinuos
00:21:40
que se dan cuando descubrimos algo nuevo
00:21:43
y además creo que lo que Yo solía pensar
00:21:46
con respecto al avance hacia la
00:21:47
superinteligencia era que íbamos a
00:21:49
construir un sistema extremadamente
00:21:51
capaz entonces junto con ese sistema
00:21:53
iban a haber muchos desafíos de
00:21:55
seguridad involucrados y ya sabíamos que
00:21:57
esa era un área que iba a ser bastante
00:22:00
inestable pero creo que ahora vemos un
00:22:02
camino en el que en gran medida
00:22:04
construimos herramientas y no criaturas
00:22:06
sino herramientas que se Están volviendo
00:22:08
cada vez más poderosas y hay miles de
00:22:11
millones incluso billones de copias de
00:22:13
estas herramientas que se están
00:22:14
utilizando en el mundo para ayudar a las
00:22:16
personas a ser mucho más efectivas y
00:22:18
capaces gracias a ellas la productividad
00:22:21
de las personas puede aumentar
00:22:24
drásticamente Y a medida que va
00:22:26
emergiendo la superinteligencia
00:22:28
no solo se desarrolla la capacidad de
00:22:30
nuestra red neuronal más grande sino
00:22:32
toda la nueva ciencia que estamos
00:22:33
descubriendo y también todas las cosas
00:22:35
nuevas que estamos creando Y qué ocurre
00:22:38
con las interacciones entre los billones
00:22:40
de otros sistemas la sociedad que
00:22:42
formamos hoy en día es a partir de
00:22:44
humanos asistidos por ia que utilizan
00:22:46
estas herramientas para construir el
00:22:47
conocimiento la tecnología las
00:22:49
instituciones y las normas y ese enfoque
00:22:52
de convivir con la superinteligencia Me
00:22:54
parece increíble en todos los aspectos y
00:22:56
prepara un futuro mucho más emocionante
00:22:59
para mí y para todos ustedes y espero
00:23:01
que estén de acuerdo con que no esté
00:23:02
todo centrado en un solo
00:23:08
supercerebro al reflexionar sobre mi
00:23:10
conversación con Sam me sorprende lo
00:23:12
dispuesto que está a abordar los riesgos
00:23:14
que la ia podría plantear tal vez esto
00:23:17
se deba a que aún hay mucho que no
00:23:18
sabemos sobre la ia porque se mueve tan
00:23:21
rápido que es difícil incluso para
00:23:23
alguien en la posición de Sam descubrir
00:23:25
qué viene después aún así una cosa sigue
00:23:29
siendo cierta realmente creo que no
00:23:31
corresponde solo a los jefes
00:23:33
tecnológicos descubrir cómo nos ayudará
00:23:35
todo esto Este es un proceso en el que
00:23:38
todos deberíamos tener voz y voto soy
00:23:41
asaras visto
00:23:47
[Música]
00:23:56
expen
00:23:58
[Música]
00:24:00
y
