00:00:00
[Música]
00:00:08
Boa tarde a todos muito obrigado pelo
00:00:11
convite É uma honra tá participando eu
00:00:15
fiz o meu doutorado na USP e é uma
00:00:17
sempre um motivo de honra tá
00:00:20
participando de algum evento promovido
00:00:22
pela Universidade de São Paulo então
00:00:24
muito obrigada pelo convite bom fala
00:00:27
sobre em 15 minutos falar sobre
00:00:29
inteligência artificial e os impactos
00:00:31
éticos e sociais é o primeiro desafio
00:00:34
então começar eu acho pegar algumas suas
00:00:38
questões que eu vejo que talvez seja
00:00:40
importante de a gente começar a pensar
00:00:43
né No início do nosso debate primeiro a
00:00:46
inteligência artificial é distinta ela é
00:00:48
uma tecnologia digital Mas ela é
00:00:51
distinta das outras tecnologias digitais
00:00:53
porque ela é o que é considerado como
00:00:55
tecnologia de propósito geral então só
00:00:58
para dar uma ideia
00:00:59
as últimas tecnologias consideradas de
00:01:02
propósito geral foi o carvão que iniciou
00:01:05
a Revolução Industrial a eletricidade e
00:01:09
a computação então o que que caracteriza
00:01:11
pela definição uma tecnologia de
00:01:14
propósito geral ela ela reconfigura ela
00:01:18
muda lógica de funcionamento da economia
00:01:21
e da sociedade então ela é diferente das
00:01:24
demais né então
00:01:26
quando a gente fala que muda a lógica é
00:01:29
porque se a gente pensar o que que Quais
00:01:32
são os modelos qual é o modelo de
00:01:33
negócio macro né que tá predominando
00:01:37
hoje e que tem de predominar cada vez
00:01:39
mais no século 21 Qual é a matéria-prima
00:01:43
desses modelos de negócio então tanto
00:01:45
nos modelos novos da plataforma de
00:01:48
aplicativos que a gente usa chamadas
00:01:49
bigtecs como também na transformação
00:01:52
digital das empresas já constituídas
00:01:55
Claro a transformação digital uma
00:01:57
convergente de várias tecnologias mas a
00:02:00
base é a inteligência artificial então o
00:02:03
que que qual é a matéria-prima dessas
00:02:06
desses novos modelos de negócio e como
00:02:09
eu disse das empresas constituídas mais
00:02:11
recentes quanto as que estão em processo
00:02:14
de transformação é são os dados né na
00:02:18
Revolução na época na economia
00:02:20
industrial a matéria-prima central era o
00:02:23
petróleo Agora nós estamos falando que a
00:02:25
matéria-prima central são os dados então
00:02:28
o que que tem os dados O que que
00:02:31
significa os dados os dados significam
00:02:33
informações sobre qualquer coisa né
00:02:35
então os dados pessoais tem informações
00:02:37
sobre as pessoas os dados capitados
00:02:40
através de sensores a chamada fábrica
00:02:43
inteligente no conceito de indústria 4.0
00:02:45
tem todo o funcionamento da fábrica e
00:02:48
por aí vai né então qual é o desafio que
00:02:52
se coloca nessa sociedade Nossa hoje
00:02:54
hiper conectada que a gente gera dados
00:02:57
Praticamente todo o tempo
00:02:59
toda vez que a gente interage no meio
00:03:02
digital ou se a gente usa um dispositivo
00:03:05
digital
00:03:06
Qual é o desafio é como que eu acesso a
00:03:09
informação como eu extraio informação
00:03:11
útil desse conjunto Extraordinário de
00:03:14
dados que todos nós eu acho que já
00:03:16
sabemos que se chama Big Data Então esse
00:03:19
é o desafio bom tradicionalmente pelo
00:03:22
menos os últimos 30 anos nós já temos
00:03:25
desenvolvimento cada vez mais
00:03:27
sofisticados modelos estatísticos de
00:03:29
probabilidade só que esses modelos
00:03:31
tradicionais eles têm uma limitação de a
00:03:37
quantidade de dados que eles conseguem
00:03:39
trabalhar consegue lidar Então hoje o
00:03:43
que nós temos que permeia praticamente
00:03:44
todas as implementações que a gente tem
00:03:47
né na sociedade em geral é pega uma
00:03:51
técnica de Inteligência Artificial que é
00:03:53
um modelo estatístico de probabilidade
00:03:55
qual é a diferença desse modelo que se
00:03:58
chama Rede de negócio Profundas ou
00:04:00
inglês de pilani qual é a diferença
00:04:02
desse modelo em relação aos demais
00:04:04
modelos estatísticos de probabilidade
00:04:06
verdade é o fato exatamente que consegue
00:04:08
lidar com grandes com esses volumes
00:04:11
extraordinários de dados Então esse é o
00:04:15
quadro Então essa tecnologia essa
00:04:17
técnica né que é uma técnica de
00:04:21
aprendizado de máquina que é uma sub
00:04:24
área da Inteligência Artificial que como
00:04:26
eu disse ela permeia praticamente a
00:04:28
maior parte das aplicações que nós temos
00:04:31
as implementações hoje é essa técnica
00:04:33
estatística de probabilidade essa
00:04:36
técnica nos últimos 10 anos o que
00:04:39
prendeu minou foram dessa técnica foram
00:04:42
soluções chamadas e apreditiva talvez a
00:04:46
gente possa chamar que é uma categoria
00:04:47
dessa técnica que se o que que
00:04:51
caracteriza não tem tempo de a gente
00:04:53
entrar nos detalhes na conversa no
00:04:55
debate a gente pode voltar esse assunto
00:04:57
mas o que diferencia cada solução é
00:05:00
arquitetura é a maneira como você
00:05:03
organiza os elementos que compõem essa
00:05:06
técnica a rede de negócio Profundas
00:05:08
então nós tivemos nos últimos 30 anos ou
00:05:10
desculpa nos última década nós tivemos
00:05:14
predominantemente o praticamente só
00:05:16
tivemos arquiteturas que levaram levavam
00:05:20
produziam soluções de a preditiva qual é
00:05:24
o novo que nós estamos vivendo agora que
00:05:27
é responsável em grande parte pelo Hype
00:05:31
que nós né de repente Inteligência
00:05:32
Artificial tá de fato na pauta da
00:05:35
sociedade no mundo todo mundo afora é o
00:05:38
fato de que nós temos uma outra
00:05:39
categoria dessa mesma técnica que é que
00:05:43
são as viagens as soluções já generativa
00:05:46
então também o fundamento é sempre fazer
00:05:49
uma previsão né Mas além de fazer
00:05:52
previsão essas novas soluções elas geram
00:05:55
textos imagens vídeos códigos então o
00:06:00
raciocínio por trás por exemplo do chat
00:06:02
GPT é a mesma técnica com arquitetura
00:06:05
específica chamado Transformer E qual é
00:06:09
o raciocínio ele faz a previsão Qual é a
00:06:13
melhor palavra qual é a probabilidade
00:06:15
dessa palavra se encaixar melhor nessa
00:06:18
sentença para responder de uma maneira
00:06:21
mais assertiva a pergunta do usuário que
00:06:24
está interagindo por exemplo com chat de
00:06:26
PT
00:06:27
então nós temos o chá de GPT representou
00:06:30
né que foi como eu acho que todos já
00:06:33
sabem foi colocado para disponibilizado
00:06:36
para integração pública e 30 de novembro
00:06:39
do ano passado ele representa uma
00:06:42
disrupção né porque basicamente por duas
00:06:46
razões primeiro pela interface é a
00:06:50
primeira vez que nós temos uma interface
00:06:53
com um sistema de Inteligência
00:06:55
Artificial usando linguagem diálogo
00:06:58
Então até então mesmo já em 2014 foi
00:07:02
proposta primeira arquitetura a primeira
00:07:05
solução de agenerativa que foi a Gun mas
00:07:09
para você interagir com a Gan que é tem
00:07:12
vários benefícios na saúde na arte mas
00:07:15
também através da grã- se produziu
00:07:18
digamos o lado maléfico que é a Deep
00:07:22
fake né mas essa essa tem essa essa
00:07:25
técnica essa solução essa arquitetura
00:07:27
Instagram ela é um certo conhecimento
00:07:30
para você interagir com chat GPT que eu
00:07:33
imagino que ainda não experimentou o chá
00:07:36
de PT todo mundo já experimentou então é
00:07:40
uma interface fácil interface direta e
00:07:43
isso deixou de ser invisível a
00:07:47
inteligência artificial que já permeia a
00:07:49
nossa comunicação em nossas
00:07:50
responsabilidade ao menos na última
00:07:52
década né É porque ela que a
00:07:55
inteligência artificial que está por
00:07:56
trás dos modelos de negócio das
00:07:58
plataformas dos aplicativos que a gente
00:08:01
usa no cotidiano Então essa interface
00:08:05
através da linguagem que é a maneira
00:08:07
como nós humanos nos comunicamos não só
00:08:10
a gente se comunica também de outras
00:08:13
formas né tem as expressões Tem
00:08:16
movimento corporal mais fundamentalmente
00:08:20
pela linguagem e a outra a outra
00:08:22
distinção
00:08:24
que também é importante que ela é
00:08:27
multitarefa né até então os modelos
00:08:30
preditivos na categoria né nessa
00:08:33
categoria E a preditiva para cada tarefa
00:08:36
você tinha que desenvolver você tem que
00:08:39
desenvolver um determinado sistema então
00:08:41
se eu quero por exemplo reconhecer se
00:08:44
uma imagem de uma tomografia
00:08:46
computadorizada por exemplo se aquela
00:08:48
imagem daquele paciente é cancerígenor
00:08:51
não eu queria um sistema específico que
00:08:53
a inteligência artificial com esse
00:08:54
propósito se eu quero reconhecer o ser
00:08:58
uma imagem ser de cachorro ou não Eu
00:09:00
queria um outro sistema se eu quero por
00:09:03
exemplo fazer um mate entre o perfil de
00:09:05
uma vaga de RH de contratação e o perfil
00:09:09
dos candidatos Eu queria um outro
00:09:10
sistema no caso da Eja negativa como
00:09:13
todos nós temos experimentado ela é
00:09:16
multitarefa eu posso usar para me
00:09:18
divertir eu posso usar para consultar as
00:09:21
mais variadas assuntos mais variados de
00:09:24
questões e posso usar e agenerativa para
00:09:27
produzir vídeos distintos eh eh imagens
00:09:30
distintos códigos né Então essa são as
00:09:33
duas grandes assim do meu ponto de vista
00:09:35
mudanças de relação que nós tínhamos até
00:09:38
então desse conjunto dessa categoria
00:09:41
dessa técnica de redes Profundas que é
00:09:45
que a categoria de apreditiva né Então
00:09:48
aí agenerativa é isso a interface é
00:09:52
facilitada e o segundo ela é multitarefa
00:09:55
bom Quais são as questões tem inúmeras
00:09:58
questões que se coloca para a sociedade
00:10:00
por um lado é um facilitador muito
00:10:03
grande na nossa vida porque exatamente
00:10:06
pelo que eu falei entre outras razões
00:10:08
ela permeia esses aplicativos e
00:10:11
plataformas que de fato facilita a nossa
00:10:13
vida ela tá presente vários outros o que
00:10:16
se chama
00:10:17
decisões automatizadas em processos
00:10:24
na área de serviços de entretenimento e
00:10:28
suma ela de fato tá fortemente no varejo
00:10:31
no varejo no e-commerce mas ela também
00:10:35
traz problemas né primeiro é uma
00:10:38
tecnologia essa técnica muito recente né
00:10:42
Nós estamos falando que 2012 foi o ano
00:10:46
de reconhecimento tanto pelo mercado
00:10:48
como pela academia dessa técnica de rede
00:10:51
de negócio Profundas então de 2012 para
00:10:53
cá nós estamos nos primórdios ela de
00:10:56
fato começou a ser utilizada em larga
00:10:58
escala a partir de 2016/2017
00:11:02
agenerativa é mais recente ainda tirando
00:11:05
o 2014 da Gun nós estamos falando de
00:11:09
novembro do ano passado não desculpa
00:11:12
Novembro mas durante o ano de 2022 saiu
00:11:17
vários soluções várias aplicativos já
00:11:19
usando e agenerativa mas de qualquer
00:11:22
jeito nós estamos falando do ano passado
00:11:23
então tem muita nós precisamos nós como
00:11:27
sociedade pigmentar ainda muito Essas
00:11:29
tecnologias e encontrando como o desafio
00:11:33
é como é que a gente maximiza os
00:11:35
benefícios e como é que a gente minimiza
00:11:38
os potenciais danos eu até muito
00:11:41
recentemente talvez uns três anos atrás
00:11:44
eu era não era a favor da regulamentação
00:11:47
a partir de três anos para cá eu sou
00:11:50
absolutamente
00:11:51
não só a favor como eu tenho participado
00:11:55
do processo desde a câmara O Senado
00:11:58
comissão do Senado agora segunda-feira
00:12:00
já vou para outra
00:12:02
primeira etapa no senado como
00:12:04
especialista convidado por que que eu
00:12:07
acho que a regulamentação é fundamental
00:12:08
porque Auto regulamentação tiveram
00:12:12
várias iniciativas principalmente das
00:12:15
grandes empresas de tecnologia no
00:12:16
sentido de auto-regulamentar e elas
00:12:19
falham porque toda vez que conflita com
00:12:22
o interesse comercial
00:12:24
100% das vezes prevalece o interesse
00:12:26
comercial então cabe ao estado ao poder
00:12:29
público criar mecanismos de proteção da
00:12:33
sociedade e do Cidadão
00:12:35
nesse sentido esse o propósito sempre
00:12:38
das leis
00:12:39
regulamentar a inteligência artificial
00:12:41
não é simples não é à toa Na China tem
00:12:45
um outro processo é diferente o
00:12:47
exercício do Poder mas no ocidente não
00:12:50
tem Até agora nenhum marco regulatório
00:12:52
nenhum lugar do mundo não é sim não é à
00:12:56
toa não é uma coincidência é de fato
00:12:59
reflete a dificuldade de você
00:13:01
regulamentar por exemplo todos os
00:13:03
processos regulamentação até 30 de
00:13:05
novembro consideráveis um exemplo o
00:13:07
chatbot como de baixo risco e a única a
00:13:12
única obrigação que o provedor de um
00:13:15
chatbot tinha que cumprir era avisar
00:13:18
para o usuários se era um chat se ele
00:13:20
tava interagindo com chatbot ou com uma
00:13:22
pessoa né A partir do momento que é
00:13:25
lançado que existe um produto chamado
00:13:28
chat GPT e todos os outros congêneres né
00:13:32
que são vários outros lançamentos o
00:13:34
baile ainda não tá disponível para
00:13:36
integração pública no Brasil mas já tá
00:13:38
em outros países que é o similar do
00:13:40
Google por exemplo Isso muda
00:13:43
radicalmente abordagem regulatória em
00:13:47
relação ao chatbot né e tem vários
00:13:50
mudanças né a velocidade de avanço dessa
00:13:54
tecnologia é muito grande e num espaço
00:13:58
num ambiente democrático em países
00:14:00
Democráticos a alimentação precisa ser
00:14:03
discutida para vocês terem ideia a
00:14:05
regulamentação que é mais avançada que é
00:14:07
da Comunidade Europeia que
00:14:10
a aposta né A Promessa é que em junho
00:14:14
vai ser votado ela começou em 2018 então
00:14:17
o processo Então se a gente pensar de
00:14:19
2018 para hoje tem uma mudança radical
00:14:24
substantiva da do avanço da Inteligência
00:14:28
Artificial Então essa defasagem de time
00:14:32
é um complicador o outro complicador é a
00:14:36
simetria de conhecimento entre os
00:14:38
reguladores
00:14:39
e quem desenvolve a tecnologia
00:14:44
então e a outra a outra Talvez assim
00:14:47
para só para ressaltar a dificuldade a
00:14:50
própria definição não existe definição
00:14:53
consensual sobre o que que é
00:14:55
inteligência artificial então eu já fiz
00:14:58
um artigo que vai sair no livro eu
00:15:00
levantei várias definições de vários
00:15:02
lugares Aliás a minha coluna eu tenho
00:15:05
uma coluna na época negócios saiu na
00:15:07
sexta-feira passada eu levanto algumas
00:15:09
dessas definições também e mostrando
00:15:12
como não tem consenso e como são
00:15:14
disparas em algumas situações Então como
00:15:17
é que você já é dificuldade como é que
00:15:19
você vai regulamentar porque para o
00:15:22
desenvolvedor da tecnologia Isso não é
00:15:24
um problema você não precisa ter uma
00:15:25
definição Mas quando você vai
00:15:27
regulamentar você tem que definir qual é
00:15:29
o objeto que você está regulamentando
00:15:32
Então essas são dificuldades se a gente
00:15:35
pensar do ponto de vista é meu tempo
00:15:39
está terminando Eu imagino do ponto de
00:15:42
vista ético eu acho que a questão da
00:15:44
ética eu eu prefiro discuti-la
00:15:48
específico por domínio né Eu acho que as
00:15:51
questões éticas implicadas quando a
00:15:54
inteligência artificial tá na educação
00:15:55
na saúde na segurança no RH na área
00:16:00
financeira são distintas né tem questão
00:16:04
Claro tem questões Gerais a privacidade
00:16:06
dos dados Mas o que importa sim para a
00:16:10
gente analisar e tem alguma atitude de
00:16:13
proteção acho que tem que dizer
00:16:15
analisado especificamente por domínio né
00:16:18
que é uma outra eu tô falando as
00:16:20
dificuldades Porque de fato essa
00:16:22
tecnologia é eu acho que é mais complexa
00:16:26
que a gente já teve do ponto de vista e
00:16:28
tecnologia então não nada é fácil Além
00:16:31
disso como eu já falei ela tava
00:16:33
avançando aceleradamente do ponto de
00:16:35
vista social para mim o maior impacto É
00:16:38
sobre o trabalho né então eu acho que é
00:16:42
falacioso quando argumento que o número
00:16:45
de funções que estão surgindo compensa
00:16:48
os que estão sendo automatizadas acho
00:16:51
que isso ia falar ansioso não faz
00:16:52
sentido aí tem vários discussões que a
00:16:55
gente pode ficar Que horas é papo várias
00:16:58
pesquisas mas
00:17:00
nós temos então só para concluído ponto
00:17:03
de vista dessa questão sobre o trabalho
00:17:05
eu vejo três impactos um é óbvio
00:17:08
deslocamento então o que que a gente
00:17:10
está vivendo é uma aceleração é uma
00:17:14
expansão melhor dizendo do que já tem o
00:17:18
que já vinha em processo desde meados do
00:17:20
século passado que é automação
00:17:21
programada né então no Brasil por
00:17:24
exemplo nós temos quatro setores com
00:17:26
maior Estácio de empregabilidade a
00:17:29
indústria automobilística o governo
00:17:30
varejo e o setor bancário se a gente
00:17:34
pegar os números bom não precisa nem ver
00:17:36
os números busca lá no Google no YouTube
00:17:39
um vídeo
00:17:41
hoje como é que se faz um carro são
00:17:45
máquinas fazendo carro né se a gente
00:17:47
pegar por exemplo o mercado bancário no
00:17:49
primeiro plano de estabilização da moeda
00:17:52
em 1986 tínhamos 900 mil bancários hoje
00:17:56
nós temos 300 mil em média e podia ter
00:18:00
menos né na verdade porque tem um custo
00:18:03
desmobilizar todas as investimentos em
00:18:05
agências feito pelos grandes bancos
00:18:07
Então essa questão é assim por que que
00:18:11
tá expandindo porque tá entrando
00:18:14
automatizando funções
00:18:16
cognitivas que a automação programada
00:18:20
não atingia segundo Impacto é sobre a
00:18:23
renda na medida que sobram menos funções
00:18:26
preservada para os humanos dados às
00:18:29
condições atuais da tecnologia
00:18:31
por oferta e demanda até tem mais gente
00:18:34
buscando aquelas funções
00:18:36
a remuneração daquelas funções tende a
00:18:39
cair então também tem vários exemplos no
00:18:41
mundo o impacto não é negativo sobre a
00:18:43
renda e o terceiro Impacto é que essas
00:18:46
funções novas ou a mudança de conteúdo
00:18:49
porque tem várias funções
00:18:52
continuam com o mesmo conteúdo mas
00:18:54
mudaram desculpa com o mesmo nome mas
00:18:57
mudaram de conteúdo requer uma
00:19:00
qualificação E requalificação então vou
00:19:02
dar um exemplo motorista de caminhão de
00:19:04
carga continua sendo um motorista
00:19:07
caminhão de carga né então o motorista
00:19:09
que dirige muito bem a 10 15 20 anos o
00:19:13
que que tá acontecendo agora os
00:19:15
equipamentos os caminhões estão vindo
00:19:18
com tecnologia embarcada e parte dessa
00:19:21
tecnologia embarcada é inteligente
00:19:23
artificial em geral isso acompanha bem
00:19:26
de perto durante um ano e meio esses
00:19:29
motoristas não estão tendo condições de
00:19:32
lidar com a tecnologia embarcado com
00:19:34
equipamento de tecnologia embarcar não é
00:19:37
uma questão de treinamento é uma questão
00:19:40
de Formação né então se a gente se a
00:19:43
gente pensar em praticamente todas as
00:19:46
áreas essa mudança de interface entre
00:19:48
homem e máquina requer uma tipo de
00:19:51
Formação que em geral aí a gente vai
00:19:54
cair na questão da educação que é já era
00:19:57
complexa tá ficando cada vez mais
00:19:58
complexa né Então essas são as questões
00:20:01
importantes de serem discutidas no ponto
00:20:04
de vista de impacto o último preocupa
00:20:06
também comentar que eu acho muito
00:20:07
importante é que eu acho que hoje nós
00:20:10
não estamos a humanidade não tá ameaçado
00:20:13
como alguns às vezes propagam pela
00:20:16
Inteligência Artificial eu acho que hoje
00:20:17
nós temos uma ameaça é as mudanças
00:20:20
climática essa é uma graça uma ameaça
00:20:22
real né
00:20:23
esse essa tecnologia ela tem um impacto
00:20:26
sobre o meio ambiente muito forte e
00:20:29
negativo é um paradoxo na verdade ao
00:20:33
mesmo tempo que a inteligência
00:20:34
artificial ajudou a e o colabora em
00:20:38
fortemente para o entendimento da
00:20:40
mudança climática melhor porque permite
00:20:43
lidar exatamente pelo que eu falei é uma
00:20:46
técnica que permite a grandes volumes de
00:20:48
dados então não sei se vocês já viram
00:20:50
tem um documentário muito interessante
00:20:52
que é mundo conectado na Netflix e um
00:20:56
dos episódios mostram uma antena
00:20:59
monumental na Amazônia essa antena capta
00:21:02
por sensores várias informações a partir
00:21:05
daquelas daqueles dados usando o sistema
00:21:08
de Inteligência Artificial você consegue
00:21:10
acompanhar por exemplo que tá
00:21:12
acontecendo na Amazônia então ao mesmo
00:21:14
tempo que a inteligência artificial
00:21:16
permite os especialistas entender e
00:21:19
acompanhar melhor as mudanças climáticas
00:21:21
ao mesmo tempo ao fazer isso e daí tá o
00:21:25
paradoxo ela ela necessita Ela usa uma
00:21:29
quantidade enorme de energia
00:21:31
consequentemente emite muito CO2 né
00:21:34
então outros grandes poluidores do tão
00:21:37
concentrado nesses nos data Centers
00:21:39
então tem todo uma discussão sobre isso
00:21:43
Pelo que eu saiba eu já tentei achar Já
00:21:46
falei com várias especialistas não
00:21:47
existe pelo menos assim um Trader off um
00:21:51
estudo desses quanto que tem de ganho em
00:21:54
relação ao meio ambiente pelo entender
00:21:56
melhor o meio ambiente e quanto tem de
00:21:58
impacto negativo Então são essas as
00:22:01
questões quando nós estamos lidando com
00:22:03
uma tecnologia de propósito geral
00:22:06
complexa e de evolução acelerada não é
00:22:11
Um Desafio fácil mas é o que nós temos
00:22:13
que enfrentar Muito obrigado
00:22:15
[Aplausos]
