Jaron Lanier analiza el futuro de la Inteligencia Artificial | AI IRL

00:24:01
https://www.youtube.com/watch?v=fZqw9XWldZE

Summary

TLDREn este episodio, Charen Lenier, un prominente crítico y pionero de la realidad virtual, analiza el estado actual y futuro de la tecnología y la inteligencia artificial. Subraya la importancia de comprender la procedencia de los datos y de compensar a quienes contribuyen con datos para entrenar algoritmos, concepto que él denomina "dignidad de datos". Lenier sostiene que el pago por servicios de IA puede evitar la manipulación y fomentar una economía más saludable. Además, critica la tendencia hacia el monopolio que puede generar el actual modelo de código abierto y destaca la necesidad urgente de regulación. También expresa su optimismo crítico y su esperanza sobre la madurez actual de los ingenieros tecnológicos para evitar errores pasados, mientras reconoce el temor por los desafíos actuales, como la desinformación y los deep fakes. Finalmente, Lenier sostiene que una mayor transparencia y una regulación adecuada son cruciales para el correcto desarrollo de la inteligencia artificial.

Takeaways

  • 🧙‍♂️ Charen Lenier es un pionero de la realidad virtual y crítico de la tecnología.
  • 🤖 Critica la idea de una IA como "Dios artificial" y aboga por el anonimato colaborativo.
  • 💡 Sostiene que la "dignidad de datos" debería recompensar a quienes aportan información.
  • 📉 El código abierto podría generar monopolios en lugar de descentralización.
  • 💸 Propone pagar por servicios de IA para evitar manipulación publicitaria.
  • 🔎 La procedencia de los datos es crucial para la transparencia de la IA.
  • ⚖️ La regulación es necesaria para evitar errores del pasado en nuevas tecnologías.
  • 🤝 Se necesita un balance entre regulación y libertad de expresión en grandes empresas.
  • 📉 La publicidad no debería ser el modelo principal de negocio en tecnología.
  • 🚫 Los deep fakes son un problema creciente y su control es fundamental.

Timeline

  • 00:00:00 - 00:05:00

    Jaron Lanier, un destacado pionero de la realidad virtual y crítico de la industria tecnológica, comparte su perspectiva sobre la evolución de Internet y su crítica sobre cómo se aborda la inteligencia artificial. Comenta que a menudo no sabemos de dónde proviene Internet, lo que considera un enfoque equivocado. En su rol en Microsoft, reflexiona sobre el pasado y sus debates con Marvin Minsky sobre la IA, considerando que debe servir para conectar a las personas y no crear entidades artificiales que actúan como deidades.

  • 00:05:00 - 00:10:00

    Lanier discute la utilización de inteligencia artificial y la promoción de contenido como medios para manipular a los usuarios, observando que las empresas aprovechan esta tecnología principalmente para publicidad y generación de ingresos. Critica la idea de ofrecer servicios gratis, ya que cree que esto lleva a manipulaciones. Propone que los usuarios deberían pagar para evitar ser explotados y para fomentar un mercado donde todos estén comprometidos con el proceso.

  • 00:10:00 - 00:15:00

    El vídeo discute la problemática de la desinformación y monopolios en tecnología, mencionando que el código abierto puede contribuir a estos problemas en lugar de solucionarlos. Lanier aboga por la identificación transparente de las fuentes de los datos que utiliza la IA, lo que podría mejorar la calidad y veracidad de los resultados, y sugiere que se compense a quienes contribuyen con datos. También prevé los impactos de los bots conversacionales en la democracia.

  • 00:15:00 - 00:24:01

    Finalmente, Lanier analiza los modelos de negocio de gigantes tecnológicos y cómo influencian la sociedad, afirmando que las plataformas basadas en publicidad enfrentan retos serios. Habla sobre deepfakes como un problema creciente que requiere sólidas regulaciones y transparencia en las fuentes. Reflexiona sobre la relación entre tecnología y legisladores, subrayando la necesidad de regulaciones efectivas para asegurar que la inteligencia artificial beneficie a la sociedad sin destruir su estructura.

Show more

Mind Map

Mind Map

Frequently Asked Question

  • ¿Quién es Charen Lenier?

    Charen Lenier es un experto en tecnología y un pionero de la realidad virtual.

  • ¿Cuál ha sido la contribución de Charen Lenier a la tecnología?

    Fue pionero en la realidad virtual en los años 80 y crítico de la tecnología que ayudó a construir.

  • ¿De qué habla Charen Lenier en el episodio?

    Reflexiona sobre la evolución de internet y la IA, y el impacto de la desinformación en las redes sociales.

  • ¿Qué propone Charen Lenier sobre los datos utilizados para entrenar algoritmos?

    Propone que las personas que contribuyen datos para la IA sean compensadas, hablando de "dignidad de los datos".

  • ¿Qué dice Charen Lenier sobre el pago por servicios de IA?

    Según Lenier, es necesario pagar por los servicios de IA para obtener libertad y evitar ser manipulados.

  • ¿Cuál era la postura inicial de Charen Lenier sobre la inteligencia artificial?

    No estaba de acuerdo con que la IA fuese vista como un Dios artificial, en contraposición a Marvin Minsky.

  • ¿Cómo sugiere Charen Lenier mejorar la transparencia de la inteligencia artificial?

    Propone que se identifiquen las fuentes de información de la IA para mejorar la transparencia.

  • ¿Qué opina Charen Lenier sobre el código abierto en la tecnología?

    Ve el código abierto como generador de monopolios en vez de descentralizar la tecnología.

  • ¿Confía Charen Lenier en los líderes de la inteligencia artificial?

    Cree que los líderes tecnológicos están en su mayoría en buenas manos, siempre que aprendan de los errores del pasado.

View more video summaries

Get instant access to free YouTube video summaries powered by AI!
Subtitles
es
Auto Scroll:
  • 00:00:00
    estás bien Sí Relájate charon lenier es
  • 00:00:03
    uno de los gurús de silicon Bali que
  • 00:00:05
    tuvo visiones utópicas sobre el futuro
  • 00:00:07
    de internet mucho antes de que
  • 00:00:08
    existieran las computadoras los
  • 00:00:10
    teléfonos celulares o las redes sociales
  • 00:00:13
    fue el pionero de la realidad virtual en
  • 00:00:15
    los 80 vendió empresas a Google Adobe y
  • 00:00:18
    Oracle y ahora trabaja en Microsoft con
  • 00:00:21
    el tiempo se convirtió en un fero
  • 00:00:22
    crítico de la industria que ayudó a
  • 00:00:24
    construir normalizamos el hecho de no
  • 00:00:26
    saber de dónde proviene Internet pero
  • 00:00:29
    esa es una forma errónea de abordar la
  • 00:00:31
    ia Pero sigue eligiendo ser parte de
  • 00:00:33
    ella en este episodio de ellael lenier
  • 00:00:37
    el experto en tecnología nos brinda una
  • 00:00:39
    visión sin filtros del lado oscuro de
  • 00:00:41
    esa industria y su repercusión en el
  • 00:00:43
    futuro de la
  • 00:00:45
    [Música]
  • 00:00:50
    ia jaren lenier Bienvenido al programa
  • 00:00:54
    bueno ahora eres lo que se conoce como
  • 00:00:56
    el científico de unificación principal
  • 00:00:58
    en Microsoft y En mi opinión personal
  • 00:01:01
    debo decirte que realmente me fascina la
  • 00:01:03
    idea de cumplir con ese rol en una
  • 00:01:05
    empresa Pero qué significa
  • 00:01:09
    exactamente ese título surgió como una
  • 00:01:12
    broma porque las siglas en inglés de la
  • 00:01:14
    oficina del director de tecnología y del
  • 00:01:17
    científico de unificación principal
  • 00:01:19
    forman la palabra octopus que en español
  • 00:01:21
    significa Pulpo y mis estudiantes suelen
  • 00:01:24
    decirme que me parezco bastante a un
  • 00:01:26
    pulpo físicamente además me interesa
  • 00:01:29
    mucho el sistema neurológico de esos
  • 00:01:31
    animales es fascinante entonces creímos
  • 00:01:34
    que sería un título apropiado estoy
  • 00:01:37
    Completamente de acuerdo Bueno hay
  • 00:01:39
    muchos temas que queremos hablar contigo
  • 00:01:41
    porque tienes una carrera extensa y
  • 00:01:43
    fascinante y creo que es muy importante
  • 00:01:45
    poner tu trabajo en contexto porque hace
  • 00:01:48
    40 años estabas desarrollando
  • 00:01:50
    tecnologías en empresas como atari por
  • 00:01:52
    eso me gustaría que nos cuentes cuál era
  • 00:01:54
    tu opinión con respecto a la trayectoria
  • 00:01:56
    de la industria En ese entonces y cómo
  • 00:01:59
    comparas lo que sucede hoy con las
  • 00:02:00
    expectativas que tenías al respecto esa
  • 00:02:03
    es una pregunta interesante Creo que
  • 00:02:06
    nunca me la habían planteado Y la verdad
  • 00:02:08
    es que me cuesta recordar el pasado
  • 00:02:10
    imagina que tienes una máquina del
  • 00:02:13
    tiempo Bueno A fines de los años 70 y
  • 00:02:17
    principios de los 80 cuando era un
  • 00:02:19
    adolescente tuve un mentor llamado
  • 00:02:21
    Marvin minski para quien trabajé como
  • 00:02:24
    investigador y él fue el creador
  • 00:02:26
    principal de la ia tal como la conocemos
  • 00:02:28
    en la actualidad muchos de los tropos
  • 00:02:31
    historias preocupaciones y formas de
  • 00:02:33
    abordar la tecnología fueron ideas
  • 00:02:35
    originales de
  • 00:02:37
    Marvin a mí no me gustaba para nada su
  • 00:02:40
    enfoque yo siempre creí que la ia tenía
  • 00:02:42
    que servir como medio para que las
  • 00:02:44
    personas trabajaran juntas desde el
  • 00:02:46
    anonimato Siempre pensé que construir
  • 00:02:48
    una entidad como si fuera un Dios
  • 00:02:50
    artificial era un error y a Marvin le
  • 00:02:53
    encantaba discutir conmigo porque sus
  • 00:02:55
    otros empleados del laboratorio estaban
  • 00:02:57
    de acuerdo con él Entonces la la última
  • 00:03:00
    vez que lo vi antes de que muriera me
  • 00:03:01
    preguntó si podíamos volver a tener un
  • 00:03:04
    debate de Los nuestros Y esa charla fue
  • 00:03:06
    maravillosa pero el hecho de pensar que
  • 00:03:08
    sus ideas eran equívocas me llevó a
  • 00:03:11
    desarrollar una teoría que era contraria
  • 00:03:13
    a ellas y la llamé realidad virtual así
  • 00:03:16
    fue como creé la primera empresa
  • 00:03:18
    emergente relacionada con esa tecnología
  • 00:03:20
    y logramos hacer el primer auricular de
  • 00:03:22
    realidad virtual con soporte para la
  • 00:03:24
    cabeza eras optimista con respecto al
  • 00:03:27
    rumbo que estaban tomando las cosas soy
  • 00:03:29
    más optimista ahora pero yo soy fiel
  • 00:03:32
    creyente de
  • 00:03:33
    que para ser optimista es imprescindible
  • 00:03:36
    tener el coraje de ser un crítico muy
  • 00:03:39
    duro aquellos que son críticos creen que
  • 00:03:42
    las cosas pueden mejorar ellos son los
  • 00:03:44
    verdaderos optimistas aunque no les
  • 00:03:46
    guste admitirlo y no quieran parecer
  • 00:03:48
    maleables las personas críticas creen
  • 00:03:51
    realmente en el progreso y por otro lado
  • 00:03:54
    las personas conformistas son bastante
  • 00:03:57
    inútiles Yo solía pelear con Marvin por
  • 00:04:00
    la Inteligencia artificial desde ese
  • 00:04:03
    entonces he sido muy crítico con
  • 00:04:05
    respecto a la forma en la que se
  • 00:04:06
    abordaron las redes sociales y otros
  • 00:04:08
    temas y sigo
  • 00:04:10
    siéndolo por eso me considero un
  • 00:04:13
    optimista charen me gustaría que
  • 00:04:15
    abriéramos un debate sobre la
  • 00:04:17
    desinformación en relación con la
  • 00:04:19
    publicidad y de cómo hoy en día eso está
  • 00:04:21
    incorporado con naturalidad en las redes
  • 00:04:23
    sociales ya sabemos que la ía generativa
  • 00:04:26
    está cambiando muchos paradigmas pero
  • 00:04:28
    creo que empresas le están aplicando más
  • 00:04:31
    que nada a la publicidad para generar
  • 00:04:33
    más ingresos cuál es tu opinión con
  • 00:04:35
    respecto a eso Bueno voy a hablar en
  • 00:04:38
    carácter personal y no en nombre de
  • 00:04:40
    Microsoft la realidad es que hay muchas
  • 00:04:43
    personas que eligen no pagar las tarifas
  • 00:04:45
    de la ia y utilizan la versión gratuita
  • 00:04:48
    pero al pagar esas tarifas se obtiene
  • 00:04:50
    libertad es decir al suscribirse a la ia
  • 00:04:53
    de pago las personas evitan ser
  • 00:04:55
    manipuladas y en cualquier economía de
  • 00:04:57
    Mercado tiene que haber clientes que
  • 00:04:59
    pueden ser los usuarios o entidades que
  • 00:05:01
    quieren
  • 00:05:02
    manipularlos Esas son las opciones
  • 00:05:05
    Entonces tenemos que aceptar que para
  • 00:05:07
    ser participantes de una economía de
  • 00:05:10
    Mercado debemos comprometernos a hacerlo
  • 00:05:12
    de forma completa de otra manera siempre
  • 00:05:15
    estaremos subyugados a quienes sí son
  • 00:05:17
    parte de ella entonces deberíamos pagar
  • 00:05:19
    por la ia Bueno creo que ni a mí ni a
  • 00:05:23
    nadie nos gusta gastar dinero pero en
  • 00:05:25
    una economía de Mercado las personas que
  • 00:05:28
    no están dispuestas a pagar por ciertos
  • 00:05:30
    servicios están permitiendo que alguien
  • 00:05:33
    más se beneficie a partir de la
  • 00:05:34
    manipulación de esos usuarios Y esa es
  • 00:05:37
    una dinámica completamente lógica e
  • 00:05:40
    ineludible es una realidad que hoy en
  • 00:05:42
    día estamos navegando por los dominios
  • 00:05:44
    del código abierto y en el ámbito de la
  • 00:05:46
    Inteligencia artificial hay un debate
  • 00:05:49
    sobre si el impulso de hacer que ciertos
  • 00:05:51
    modelos sean de código abierto podría
  • 00:05:53
    exacerbar el riesgo de desinformación
  • 00:05:55
    Quisiera saber qué piensas sobre eso
  • 00:05:58
    bueno este Este es un tema bastante
  • 00:06:00
    complejo y mis opiniones al respecto a
  • 00:06:02
    veces generan críticas negativas por
  • 00:06:05
    parte de mis colegas pero voy a tratar
  • 00:06:07
    de expresarlas creo que el concepto de
  • 00:06:09
    código abierto se ideó con intenciones
  • 00:06:12
    realmente buenas y que las personas que
  • 00:06:14
    apoyan ese enfoque piensan que hace que
  • 00:06:16
    la tecnología sea más abierta
  • 00:06:18
    democrática honesta y segura el problema
  • 00:06:21
    con esto son las matemáticas de los
  • 00:06:23
    efectos de red Por ejemplo si un grupo
  • 00:06:26
    de personas comparte información de
  • 00:06:28
    forma gratuita
  • 00:06:30
    ya sea música códigos computacionales o
  • 00:06:32
    cualquier otra cosa se forma una
  • 00:06:35
    comunidad que funciona como una especie
  • 00:06:37
    de sistema de truque gigante pero el
  • 00:06:39
    problema que surge de ese intercambio de
  • 00:06:41
    elementos gratuito Es que
  • 00:06:43
    inevitablemente crea un monopolio por
  • 00:06:45
    una cuestión matemática y luego ese
  • 00:06:48
    monopolio se convierte en empresas
  • 00:06:50
    gigantes como Google entonces en lugar
  • 00:06:53
    de lograr la descentralización se genera
  • 00:06:55
    una
  • 00:06:57
    hipercal y después esos centros de datos
  • 00:06:59
    se verán incentivados a mantener cierta
  • 00:07:02
    información en secreto como sus
  • 00:07:04
    algoritmos o sus datos derivados que son
  • 00:07:06
    muy caros de generar y sirven para
  • 00:07:08
    Mostrar cómo se correlacionan las cosas
  • 00:07:11
    y creo que esta idea de que la apertura
  • 00:07:13
    conduce a la descentralización es falsa
  • 00:07:15
    y hay fundamentos matemáticos y muchos
  • 00:07:18
    ejemplos para demostrarlo sin embargo
  • 00:07:21
    muchos siguen creyendo que aportar datos
  • 00:07:23
    de forma gratuita es algo bueno cuando
  • 00:07:25
    en realidad es un modelo que no funciona
  • 00:07:28
    entiendo pero muchos sostienen que los
  • 00:07:30
    sistemas de ia y en particular los
  • 00:07:32
    grandes modelos de lenguaje son un
  • 00:07:34
    misterio para la mayoría Entonces si
  • 00:07:36
    tenemos un modelo de código abierto al
  • 00:07:38
    menos podemos ver cómo funciona Yo
  • 00:07:41
    pienso que hay una forma de apertura que
  • 00:07:43
    sería beneficiosa para todos incluidos
  • 00:07:46
    los propietarios de los grandes modelos
  • 00:07:48
    los usuarios y la sociedad en general
  • 00:07:51
    pero la clave no está en liberar el
  • 00:07:53
    código porque eso tiende a fomentar el
  • 00:07:55
    crecimiento de los monopolios emergentes
  • 00:07:58
    algo que le conviene a unos pocos lo que
  • 00:08:00
    deberíamos hacer en realidad es conocer
  • 00:08:02
    las fuentes voy a dar un ejemplo
  • 00:08:05
    imaginemos que un usuario interactúa con
  • 00:08:07
    un Bot conversacional y este comienza a
  • 00:08:10
    decirle cosas extrañas como te amo
  • 00:08:12
    divórciate deberíamos estar juntos Bueno
  • 00:08:16
    hay una manera de prevenir eso pero es
  • 00:08:18
    difícil cuando una ia gobierna a otra ia
  • 00:08:21
    y simplemente le dice no actúes tan raro
  • 00:08:24
    basta y la razón por la que se vuelve
  • 00:08:27
    difícil controlar la efectividad de los
  • 00:08:29
    resultados de la ia es por las
  • 00:08:31
    limitaciones del lenguaje en sí y la
  • 00:08:33
    humanidad se ha enfrentado a ese
  • 00:08:35
    problema durante miles de años por
  • 00:08:37
    ejemplo según la antigua historia del
  • 00:08:39
    Genio y la lámpara el genio concedía los
  • 00:08:42
    deseos del dueño de la lámpara mágica
  • 00:08:45
    pero muchas veces sus palabras podían
  • 00:08:47
    malinterpretarse y los deseos se
  • 00:08:49
    convertían en problemas y eso mismo
  • 00:08:51
    sucede ahora que la ía se autogobierna
  • 00:08:54
    porque las palabras son más ambiguas de
  • 00:08:56
    lo que creemos y pueden generar
  • 00:08:57
    confusión y ese imprecisión de las
  • 00:09:00
    palabras es lo que hace que los grandes
  • 00:09:02
    modelos funcionen porque en primer lugar
  • 00:09:04
    se rigen a partir de cálculos
  • 00:09:06
    estadísticos que funcionan muy bien pero
  • 00:09:08
    hay otra forma efectiva de optimizar los
  • 00:09:11
    resultados de la ia porque todas las
  • 00:09:14
    respuestas de la ia se basan en miles de
  • 00:09:16
    millones de datos que aporta la
  • 00:09:17
    humanidad en general por ejemplo fotos o
  • 00:09:20
    textos pero siempre habrá algún caso en
  • 00:09:22
    el que la ia no disponga de tanta
  • 00:09:24
    información para alimentarse y generar
  • 00:09:27
    un resultado quizás encuentre solamente
  • 00:09:30
    unos 12 ejemplos o algo así y hago este
  • 00:09:33
    gesto para representar una especie de
  • 00:09:35
    montaña de estadísticas se trata de un
  • 00:09:38
    análisis matemático Entonces en ese caso
  • 00:09:41
    lo mejor es rastrear la fuente de esa
  • 00:09:43
    información que está disponible
  • 00:09:45
    imaginemos que el Bot brinda información
  • 00:09:48
    dudosa y el usuario le pregunta de dónde
  • 00:09:50
    la obtuvo exactamente y el Bot responde
  • 00:09:52
    que sus fuentes fueron novelas eróticas
  • 00:09:54
    y telenovelas Entonces el usuario le
  • 00:09:57
    enseña al Bot que no utilice de esa
  • 00:09:59
    información luego ese Bot sabrá Cuáles
  • 00:10:02
    Fuentes combinar para crear el resultado
  • 00:10:04
    de ella porque así es como funciona el
  • 00:10:07
    modelo de la Inteligencia artificial su
  • 00:10:10
    magia es que puede tomar información de
  • 00:10:12
    las personas y combinarla de manera
  • 00:10:14
    coherente Por ejemplo se puede utilizar
  • 00:10:17
    un reconocedor de gatos y otro de globos
  • 00:10:19
    aerostáticos y pedirle a la ia que los
  • 00:10:21
    combine Entonces tomará al azar ambos
  • 00:10:24
    elementos para obtener un gato en un
  • 00:10:26
    globo aerostático es fantástico y
  • 00:10:29
    siempre se puede volver atrás pero no lo
  • 00:10:32
    hacemos porque normalizamos el hecho de
  • 00:10:34
    no saber de dónde proviene Internet pero
  • 00:10:36
    esa es una forma errónea de abordar la
  • 00:10:38
    ia y ya que este es un canal orientado a
  • 00:10:41
    los negocios es pertinente plantear mi
  • 00:10:44
    teoría de que si se pudiera identificar
  • 00:10:46
    a aquellos que contribuyen con los
  • 00:10:48
    resultados de ia se podría incentivar a
  • 00:10:50
    las personas a que aporten nuevos datos
  • 00:10:52
    que mejor en el sistema Y en segundo
  • 00:10:55
    lugar se podría compensar a esas
  • 00:10:57
    personas creo que de de esa manera se
  • 00:10:59
    evitaría el desplazamiento de los
  • 00:11:01
    trabajadores y que tengan que recurrir a
  • 00:11:03
    la renta básica universal que sería un
  • 00:11:06
    panorama terrible porque concentrar el
  • 00:11:08
    mercado en un solo pagador es malo Como
  • 00:11:11
    sucede en los sistemas totalitarios en
  • 00:11:13
    los que una sola entidad tiene el
  • 00:11:15
    control total a propósito de este tema
  • 00:11:17
    Me gustaría hablar de lo que llamas
  • 00:11:19
    dignidad de datos que es la idea de
  • 00:11:21
    compensar a quienes suben datos a la red
  • 00:11:24
    especialmente si se usan para entrenar
  • 00:11:26
    algoritmos cómo funciona eso en la
  • 00:11:28
    práctica
  • 00:11:29
    bueno para lograr eso tenemos que
  • 00:11:31
    Identificar y presentar Cuáles fueron
  • 00:11:33
    las fuentes humanas que se utilizaron
  • 00:11:35
    para construir cierto resultado de ella
  • 00:11:38
    y hasta ahora eso no se ha implementado
  • 00:11:40
    pero se puede hacer de forma eficiente y
  • 00:11:42
    efectiva sin embargo cambiar la dinámica
  • 00:11:45
    de la actualidad tiene que ser una
  • 00:11:47
    decisión de la sociedad y hay que tener
  • 00:11:50
    en cuenta que hay muchos detractores a
  • 00:11:52
    los que no les interesaría recibir
  • 00:11:53
    dinero por sus aportes entonces La
  • 00:11:56
    verdad es que todavía hay que ajustar
  • 00:11:58
    este nuevo paradigma pero lo importante
  • 00:12:00
    es minimizar la cantidad de personas que
  • 00:12:03
    dependen de los pagos del Estado para
  • 00:12:05
    sobrevivir e impulsar a los usuarios a
  • 00:12:07
    crear más datos que hagan que los
  • 00:12:09
    modelos funcionen mejor de modo que
  • 00:12:11
    todos se beneficien en la década de los
  • 00:12:13
    90 manifestaste que los Bots
  • 00:12:15
    conversacionales podrían llegar a
  • 00:12:17
    impactar en la democracia y las
  • 00:12:19
    elecciones y eso fue hace unos 30 años
  • 00:12:22
    Buenas épocas hace mucho que escribo
  • 00:12:24
    sobre esto Desde cuando los Bots
  • 00:12:26
    conversacionales se llamaban agentes Qué
  • 00:12:29
    miedo en ese momento existía el lenguaje
  • 00:12:31
    ocasional que se usó en las películas de
  • 00:12:34
    Matrix para crear a los personajes de
  • 00:12:36
    yaa que parecían agentes secretos Y sí
  • 00:12:39
    daban miedo se suponía que los agentes
  • 00:12:42
    estaban diseñados para ayudar pero yo
  • 00:12:44
    siempre creí que iban a corromperse para
  • 00:12:47
    mí siempre fue evidente que no
  • 00:12:48
    funcionarían qué opinas sobre el riesgo
  • 00:12:51
    que suponen los Bots conversacionales de
  • 00:12:53
    hoy para la
  • 00:12:56
    democracia pronto lo sabremos
  • 00:13:00
    la verdad es que tengo miedo y me siento
  • 00:13:02
    así principalmente porque recuerdo la
  • 00:13:05
    última vez en la que las redes sociales
  • 00:13:07
    estuvieron involucradas en la
  • 00:13:09
    política y que mucha gente se sintió
  • 00:13:12
    aterrada o
  • 00:13:14
    preocupada Y eso provocó que las grandes
  • 00:13:16
    empresas de tecnología redujeran en
  • 00:13:18
    cierto nivel los controles y las
  • 00:13:20
    correcciones entonces en cierto sentido
  • 00:13:24
    la situación podría ser peor pero en
  • 00:13:27
    otro sentido siento que la cultura
  • 00:13:29
    tecnológica o la sensibilidad colectiva
  • 00:13:31
    de los ingenieros informáticos ha
  • 00:13:33
    madurado mucho en general confías en los
  • 00:13:37
    líderes tecnológicos detrás de los
  • 00:13:38
    modelos de Inteligencia artificial que
  • 00:13:40
    existen en este momento bueno no creo
  • 00:13:43
    que mi respuesta sea Imparcial porque
  • 00:13:45
    conozco a la mayoría de ellos pero creo
  • 00:13:48
    que la ia se encuentra en buenas manos
  • 00:13:51
    crees que aprenden de sus
  • 00:13:53
    errores Espero que así sea porque
  • 00:13:55
    todavía no hubo errores de los cuales
  • 00:13:57
    aprender y las redes sociales ese es un
  • 00:14:01
    buen ejemplo pero las redes sociales
  • 00:14:03
    preceden a los grandes modelos es decir
  • 00:14:06
    las redes sociales son una especie de
  • 00:14:08
    modelo a escala de la ia porque
  • 00:14:10
    funcionan a partir de algoritmos Así que
  • 00:14:12
    se podría decir que están impulsadas por
  • 00:14:14
    la ia pero la repercusión de las redes
  • 00:14:17
    sociales en la sociedad no fue igual
  • 00:14:19
    para todos a algunos les gustan más que
  • 00:14:21
    a otros Creo que muchas de las empresas
  • 00:14:24
    fundadoras de las redes sociales han
  • 00:14:26
    cometido errores colectivamente y
  • 00:14:28
    nosotros como usuarios hemos permitido
  • 00:14:30
    que eso suceda o hemos dejado de usar
  • 00:14:32
    esas plataformas y ahora muchas de esas
  • 00:14:35
    mismas empresas ingenieros o personas
  • 00:14:37
    están creando nuevas tecnologías
  • 00:14:39
    entonces me pregunto Realmente si habrán
  • 00:14:42
    aprendido algo de sus errores en estos
  • 00:14:44
    últimos 20 años bueno así Debería ser
  • 00:14:48
    hay dos modelos de negocios de los
  • 00:14:50
    gigantes tecnológicos en los Estados
  • 00:14:52
    Unidos que son verdaderos Titanes y que
  • 00:14:54
    dependen del modelo de negocio de la
  • 00:14:56
    publicidad y esos son meta alphabet y
  • 00:15:00
    Google y luego existen otras empresas de
  • 00:15:03
    tecnología que no dependen de la
  • 00:15:05
    publicidad que son Apple
  • 00:15:07
    Microsoft y Amazon y hay muchas quejas
  • 00:15:11
    con respecto a estas empresas y está
  • 00:15:13
    bien que así sea porque deben ser
  • 00:15:15
    receptivas sin embargo las últimas que
  • 00:15:18
    mencioné no tienen tantos efectos
  • 00:15:20
    negativos en la sociedad pero tienen una
  • 00:15:23
    capitalización de Mercado más pequeña me
  • 00:15:25
    refiero a que meta y Google deberían
  • 00:15:27
    tener más éxito porque sus aportes Son
  • 00:15:30
    increíbles pero están infravaloradas
  • 00:15:32
    porque tienen el modelo de negocio
  • 00:15:34
    equivocado en el que yo no creo porque
  • 00:15:36
    pienso que las plataformas dirigidas por
  • 00:15:38
    autoritarios nos van a sobrepasar Como
  • 00:15:41
    sucede con tiktok estas plataformas no
  • 00:15:43
    funcionan al máximo y no impulsamos un
  • 00:15:46
    cambio porque estamos en una zona de
  • 00:15:48
    Confort pero deberíamos hacerlo uno de
  • 00:15:51
    los grandes problemas que surgen en
  • 00:15:53
    términos de desinformación democracia
  • 00:15:55
    redes sociales e Inteligencia artificial
  • 00:15:57
    son los Deep F
  • 00:15:59
    y es un tema realmente complicado para
  • 00:16:01
    debatir porque tiene el potencial de
  • 00:16:03
    volverse mucho más grave con el avance
  • 00:16:05
    de la Inteligencia artificial y los
  • 00:16:07
    modelos generativos que hemos visto en
  • 00:16:09
    los últimos años en particular entonces
  • 00:16:11
    me gustaría saber si crees que hay
  • 00:16:13
    alguna forma de prevenir que esto se
  • 00:16:15
    convierta en el próximo problema debo
  • 00:16:18
    admitir que en los 90 tenía una empresa
  • 00:16:20
    emergente de visión artificial con unos
  • 00:16:23
    amigos e hicimos los primeros Deep fakes
  • 00:16:25
    de seguimiento de rostros la culpa es
  • 00:16:27
    tuya sí totalmente de hecho usamos el
  • 00:16:31
    primer sistema de Deep fakes para
  • 00:16:33
    bloquear escenas en sentencia previa con
  • 00:16:36
    publicidad de guines Sí de hecho incluye
  • 00:16:39
    eso en el guion pero estaba basado en un
  • 00:16:41
    prototipo temprano de un Deep fake
  • 00:16:44
    volviendo a tu pregunta la solución al
  • 00:16:46
    problema de los Deep fakes es conocer
  • 00:16:48
    las fuentes para eso el sistema de
  • 00:16:50
    procedencia tiene que ser Sólido y no
  • 00:16:53
    falsificaba poder reconocer la presencia
  • 00:16:56
    de combinaciones e identificar si por
  • 00:16:58
    ejemplo alguien de la inteligencia
  • 00:17:00
    militar china tomó distintos elementos
  • 00:17:02
    para hacer un dep faque de esa manera
  • 00:17:05
    podría descartar información falsa
  • 00:17:07
    entonces controlar las fuentes es la
  • 00:17:09
    única forma de combatir el fraude Además
  • 00:17:13
    creo que los reguladores deberían
  • 00:17:15
    involucrarse en esto así que Microsoft
  • 00:17:18
    Open Ai y todas las empresas de
  • 00:17:20
    tecnología deberían exigir
  • 00:17:22
    regulaciones Pero la pregunta es cómo Y
  • 00:17:25
    si implementar normas significara tener
  • 00:17:27
    un juez que sobre el origen de la ia se
  • 00:17:30
    convertiría en un proceso infinito pero
  • 00:17:33
    si se basara en la procedencia de los
  • 00:17:34
    datos entonces habría un plan de acción
  • 00:17:37
    y ya no se estarían usando términos
  • 00:17:40
    indefinidos muchos sostienen que la ia
  • 00:17:42
    debe estar alineada con el interés
  • 00:17:45
    humano Pero a qué se refieren con eso
  • 00:17:48
    trabajé mucho en privacidad ayudé a
  • 00:17:51
    iniciar el marco de privacidad en Europa
  • 00:17:53
    y el reglamento general de protección de
  • 00:17:55
    datos y me atrevo a decir que todavía no
  • 00:17:57
    sabemos Qué es la privacidad en el
  • 00:17:59
    contexto de internet Entonces teniendo
  • 00:18:02
    en cuenta Eso los legisladores deberían
  • 00:18:05
    intervenir y plantear regulaciones pero
  • 00:18:07
    no cree que los políticos tienen
  • 00:18:09
    demasiado miedo de desafiar a la
  • 00:18:11
    tecnología qué buena pregunta durante
  • 00:18:14
    mucho tiempo los líderes tecnológicos
  • 00:18:16
    hemos ido al congreso o a un parlamento
  • 00:18:18
    en otro país y
  • 00:18:28
    necios y que nosotros éramos los
  • 00:18:30
    inteligentes y que no podían contradecir
  • 00:18:32
    en nada esos episodios sucedían
  • 00:18:35
    constantemente durante años yo mismo
  • 00:18:38
    tild a los políticos de ineptos y creo
  • 00:18:41
    que al presionarlos tanto logramos que
  • 00:18:43
    se volvieran tímidos lo cual nos
  • 00:18:45
    perjudica y ahora todos los que trabajan
  • 00:18:48
    en ia en cualquier escala sostienen que
  • 00:18:50
    les gustaría ser
  • 00:18:51
    regulados y consideran que la industria
  • 00:18:54
    de la tecnología debería estar regida
  • 00:18:56
    por ciertas normas Cuándo se volvió tan
  • 00:18:59
    estrecha la relación entre los grandes
  • 00:19:01
    líderes de la tecnología y los
  • 00:19:03
    legisladores no sé pero nos llevamos
  • 00:19:05
    bien vi la conferencia de Sam olman en
  • 00:19:08
    la que abrió el diálogo con un panel de
  • 00:19:10
    personas sí a veces parecía que su
  • 00:19:13
    discurso era amigable pero no siempre
  • 00:19:16
    porque había una especie de exigencia
  • 00:19:18
    implícita hacia los legisladores bueno
  • 00:19:20
    no queremos problemas como los que
  • 00:19:22
    surgen de las redes sociales queremos
  • 00:19:25
    ser regulados Porque no tenemos la
  • 00:19:26
    intención de arruinar la sociedad la
  • 00:19:29
    realidad es que dependemos de ella para
  • 00:19:31
    que nuestro negocio sea exitoso y yo
  • 00:19:34
    creo
  • 00:19:37
    que hay algo de ambigüedad en todo esto
  • 00:19:40
    porque hay una corriente libertaria en
  • 00:19:43
    la cultura tecnológica que considera que
  • 00:19:45
    toda regulación es sospechosa pero en
  • 00:19:47
    realidad es la base sobre la cual
  • 00:19:49
    podemos hacer negocios de forma libre
  • 00:19:51
    necesitamos orden para funcionar de lo
  • 00:19:54
    contrario la industria tecnológica se
  • 00:19:56
    volvería una especie de de supervivencia
  • 00:19:59
    del más apto lo que conduciría a una
  • 00:20:01
    evolución natural extremadamente lenta
  • 00:20:04
    ya sabemos que los mercados son rápidos
  • 00:20:06
    y creativos pero esas ventajas no se
  • 00:20:09
    pueden lograr sin una base de regulación
  • 00:20:11
    estable reconociste a Sam oldman como un
  • 00:20:14
    colega y amigo Así es has hablado con él
  • 00:20:17
    recientemente sobre tus
  • 00:20:19
    preocupaciones Sí lo hacemos con
  • 00:20:22
    frecuencia pero no puedo hablar por él
  • 00:20:25
    la verdad es que me siento muy cómodo
  • 00:20:27
    trabajando con personas con las que no
  • 00:20:29
    estoy Completamente de acuerdo pero
  • 00:20:31
    nuestras ideas coinciden bastante por
  • 00:20:34
    ejemplo Sam quiere lanzar una
  • 00:20:36
    criptomoneda universal basada en un
  • 00:20:38
    escáner para recompensar a las personas
  • 00:20:40
    que aporten información a la ia
  • 00:20:42
    obviamente yo no creo que esa sea una
  • 00:20:45
    buena idea Porque si ese emprendimiento
  • 00:20:47
    cae en las manos de alguna organización
  • 00:20:49
    corrupta sería
  • 00:20:51
    terrible por ejemplo la criptografía es
  • 00:20:54
    matemáticamente perfecta pero también
  • 00:20:56
    está llena de fraude hay prominencia al
  • 00:20:59
    respecto sí creo que las grandes
  • 00:21:02
    empresas de tecnología se han vuelto tan
  • 00:21:04
    importantes para la sociedad que es
  • 00:21:07
    realmente pertinente intentar demostrar
  • 00:21:09
    que dentro de ellas puede haber libertad
  • 00:21:11
    de expresión y la gente seguirá
  • 00:21:13
    comprando los productos y las acciones
  • 00:21:15
    con normalidad y yo he intentado poner a
  • 00:21:18
    prueba esa teoría al hacer comentarios
  • 00:21:20
    que no son propiamente oficiales de
  • 00:21:23
    Microsoft Yo me esfuerzo por mejorar las
  • 00:21:25
    cosas para Microsoft y me enor que la
  • 00:21:28
    gente quiera comprar nuestros servicios
  • 00:21:30
    y acciones me gusta trabajar con los
  • 00:21:33
    clientes y disfruto de desarrollar algo
  • 00:21:35
    que a las personas les guste lo
  • 00:21:37
    suficiente como para pagar por ello eso
  • 00:21:40
    es lo que yo entiendo por economía de
  • 00:21:42
    Mercado y me gusta ser parte de ella y
  • 00:21:45
    quisiera persuadir a mis colegas de
  • 00:21:46
    algunas de las otras empresas de
  • 00:21:48
    tecnología de que le hablen al público
  • 00:21:50
    sobre sus realidades porque podría ser
  • 00:21:53
    bueno para ellos creo que hacer eso
  • 00:21:55
    mejoraría el rendimiento de empresas
  • 00:21:57
    como Google y meta que como he sabido
  • 00:21:59
    son bastante reticentes a hacer
  • 00:22:01
    comentarios no cuentan con personas que
  • 00:22:04
    hablen y creo que sufren las
  • 00:22:06
    consecuencias de eso a pesar de ser
  • 00:22:07
    empresas grandes y exitosas entonces
  • 00:22:10
    creo que podrían hacer más qué te haría
  • 00:22:14
    renunciar tendría que pensarlo pero en
  • 00:22:17
    este momento no se me ocurre nada hay
  • 00:22:20
    algo que realmente no serías capaz de
  • 00:22:22
    tolerar la verdad es que no bueno
  • 00:22:27
    tendría que pensarlo en relación al
  • 00:22:29
    contexto en el que me encuentre No creo
  • 00:22:31
    que se puedan establecer límites en esta
  • 00:22:34
    industria pero eso es muy personal y por
  • 00:22:37
    cierto hay algunas personas en Microsoft
  • 00:22:39
    que tienen carreras públicas y hablan
  • 00:22:43
    abiertamente y creo que adoptar ese
  • 00:22:45
    enfoque ha funcionado bien Además quiero
  • 00:22:47
    Resaltar que no estoy de acuerdo con
  • 00:22:49
    todo lo que sucede en Microsoft la
  • 00:22:52
    empresa es tan grande como un país y es
  • 00:22:54
    muy diversa entonces creo que ser
  • 00:22:57
    peronista no es algo beneficioso para
  • 00:23:00
    nadie aunque aquí en el área de la Bahía
  • 00:23:02
    de San Francisco hay muchas personas que
  • 00:23:04
    quieren imponer un enfoque
  • 00:23:06
    perfeccionista pero soy fiel creyente de
  • 00:23:08
    que hay que tratar de encontrar el
  • 00:23:10
    equilibrio y tener en cuenta que la
  • 00:23:12
    perfección no existe sharen esta ha sido
  • 00:23:15
    una conversación fascinante Gracias por
  • 00:23:17
    tu tiempo ha sido genial Gracias por
  • 00:23:20
    invitarme
  • 00:23:23
    [Música]
  • 00:23:56
    ah
  • 00:23:59
    y
Tags
  • Charen Lenier
  • tecnología
  • inteligencia artificial
  • realidad virtual
  • dignidad de datos
  • desinformación
  • redes sociales
  • procedencia de datos
  • transparencia
  • código abierto