Pílula de cultura digital para começarmos bem a semana 😊
Por que os grandes benefícios da IA não podem encobrir seus potenciais riscos?

A IA já transformou o mundo, e esse processo está apenas engatinhando. Suas potencialidades beiram o inimaginável e devemos nos apropriar de todos esses recursos. Ainda assim, temos que cuidar para que isso não se torne um ópio que turve nossa compreensão dos riscos que ela também embute.

Infelizmente já constato esse problema em pesquisadores, parte da imprensa, grandes empresários e outros líderes da sociedade, que abraçam a IA de maneira inconsequente, como se tudo dela fosse bom. Essas pessoas adotam um discurso deslumbrado e intransigente, criticando aqueles que propõem um debate equilibrado sobre benefícios e riscos da IA.

No dia 8, a Academia Real das Ciências da Suécia concedeu o Prêmio Nobel de Física a Geoffrey Hinton, da Universidade de Toronto, e a John Hopfield, da Universidade de Princeton, pelos seus trabalhos pioneiros com redes neurais artificiais e com machine learning, bases da IA. Essa turma correu para incensar a vitória dessa tecnologia, escondendo que, apesar de ser considerado o “padrinho da IA”, Hinton também é um forte crítico ao seu desenvolvimento descuidado.

A defesa inabalável da IA é criadora e criatura de um profundo processo de desordem informacional que beneficia as empresas do setor. Não é um fenômeno novo: há muitos anos, as big techs manipulam o público em favor das redes sociais. Com isso, mesmo diante dos seus evidentes problemas, uma parcela significativa da população ainda as apoia irrestritamente por seus inegáveis benefícios, mas ignorando seus óbvios prejuízos.

Falhamos ao impedir que essa desinformação favorável às redes sociais criasse raízes tão profundas, que impediram que elas evoluíssem de maneira mais benéfica à humanidade. Não podemos repetir o erro com a inteligência artificial!

Mas qual é o caminho a seguir? É sobre isso que falo nesse episódio.

E você, acho que há exageros em torno da IA?

Não podemos ignorar os riscos da IA

Pílula de cultura digital para começarmos bem a semana 😊
Se você acha que a influência da inteligência artificial na cibersegurança não afeta você pessoalmente, pense de novo!

Claro que as manchetes de invasões a grandes empresas são mais vistosas. Por exemplo, no dia 2 de julho, o Brasil acordou com a notícia do maior crime digital da sua história: o ataque à C&M Software, que desviou pelo menos R$ 800 milhões de instituições financeiras conectadas ao Pix. Não houve violação ao sistema, pois os criminosos fizeram as transferências usando credenciais legítimas de um prestador de serviços.

Isso demonstra que a cibersegurança não pode mais se limitar à proteção da estrutura de TI, precisando envolver pessoas, dados e processos. A IA destaca ainda mais o tema, que deve ser visto como um pilar dos negócios.

Essas foram algumas das principais conclusões da Conferência Gartner de Segurança e Gestão de Risco, que aconteceu na semana em São Paulo. A mensagem central do evento foi que gestores não podem ignorar ou combater a euforia em torno da IA, e sim usá-la como motor de mudanças planejadas. Tanto que, segundo a consultoria, até 2026, metade dos executivos de alto escalão deverá ter indicadores de performance em cibersegurança atrelados aos seus contratos de remuneração, e isso não se restringe aos líderes de tecnologia.

Não dá para ser diferente. Os bandidos já usam a IA para sofisticar seus ataques, como na adoção de agentes de IA que imitam o comportamento humano para burlar proteções de segurança. Assim, a IA automatiza ameaças em grande escala.

Agora, preste atenção: com a “Internet dos humanos” evoluindo para dispositivos ligados às pessoas (e eventualmente controlando funções vitais, como um marcapasso conectado), hackers poderão ameaçar vidas remotamente.

Nesse cenário, a preocupação não deve ser se estamos seguros, e sim se estamos tomando medidas adequadas para mitigar ameaças dentro do nosso apetite de risco.

Mas você sabe fazer o que precisa?


Euforia pela IA e cibersegurança no seu cotidiano

Pílula de cultura digital para começarmos bem a semana 😊
O que sobrou para dizer sobre a rede de pedofilia online denunciada por Felca? Por exemplo, mostrar os responsáveis indiretos por essa tragédia social.

O Brasil está em polvorosa desde que ele denunciou a pedofilia nas redes sociais em seu vídeo “Adultização”. Mais do que bem-vindo, o movimento é essencial para resgatarmos uma sociedade civilizada, que proteja crianças e adolescentes. Mas corremos o risco de que o problema seja tratado de maneira superficial e –pior ainda– que acabe em uma escandalosa pizza.

O influenciador apontou os responsáveis mais evidentes, como personalidades digitais que exploram a erotização de crianças, os pedófilos que inundam as redes sociais e até pais e mães que, por ação, omissão ou ignorância, colocam os próprios filhos em risco. Mas essa situação também resulta de uma sociedade que, nos últimos 15 anos, se acostumou com todo tipo de barbaridade e até se beneficia delas.

O maior exemplo é a classe política. Apesar desses abusos contra os mais jovens serem conhecidos e debatidos há anos, bastou a comoção criada por Felca para o surgimento de dezenas de projetos de lei para combater esse delito. Porém mais grave ainda são os parlamentares que querem impedir que uma solução avance.

É o caso também das plataformas digitais, que apresentam um discurso de proteção a crianças e adolescentes, mas que se beneficiam largamente dessas práticas criminosas, que acontecem de maneira explícita em suas páginas, em perfis com milhões de seguidores. Em vez de combaterem a prática, elas desmantelaram suas próprias estruturas de moderação de conteúdo e de proteção. Em seu lugar, montaram poderosos esforços de lobby para convencer políticos a defenderem seus interesses. Não satisfeitas, associaram-se ao presidente americano, Donald Trump, para usar o poder dos EUA para achacar países que buscam soluções.

Além de combater os criminosos óbvios, a sociedade precisa, portanto, enquadrar aqueles que sustentam a estrutura para essas atrocidades.

Que sugestões você propõe? Nesse episódio, indico alguns caminhos.


Os outros culpados das denúncias do Felca

Pílula de cultura digital para começarmos bem a semana 😊
A maneira como usamos diferentes programas e aplicativos de produtividade em nossos computadores e celulares pode estar com os dias contados!

Com o avanço da inteligência artificial, navegar por muitas telas de sistemas distintos para coletar informações tende a ser substituído por simples conversas com um robô. Mas como tudo que se refere a essa tecnologia, precisamos compreender bem a proposta para que um benefício não se transforme em uma armadilha.

Especialmente no mundo dos negócios, mesmo com a ampla digitalização de processos, obter informações para uma tomada de decisão pode ser uma tarefa morosa e sujeita a falhas. Uma nova geração de assistentes de IA promete resolver isso, entendendo o que o usuário deseja e acessando todos os sistemas necessários para coletar os dados e organizá-los em uma resposta pronta.

Mais do que uma evolução técnica, esse movimento nascente traz uma mudança de paradigma na experiência do usuário e na governança de dados. Essa camada transforma sistemas complexos em “motores de dados” para respostas contextuais.

Os benefícios são evidentes, com ganhos em eficiência e produtividade. Mas alguns riscos não podem ser ignorados, como o aumento da dependência tecnológica e uma potencial exclusão digital entre aqueles que não souberem usar a IA.

Para muita gente, pode parecer um contrassenso alguém não conseguir usar uma tecnologia criada para facilitar processos. Mas precisamos entender que isso depende de habilidades que nem todos têm. Nesse caso, a sociedade precisa se organizar para capacitar essas pessoas, evitando ampliar o abismo digital já existente no país, e as empresas têm um papel fundamental nesse processo.

Você sabe como usar a IA dessa maneira?


A interface universal de computadores e celulares

Pílula de cultura digital para começarmos bem a semana 😊
Não se pode ignorar os casos de pessoas que faziam “terapia por inteligência artificial” e se suicidaram.

Desde que o ChatGPT foi lançado, há dois anos e meio, ele vem sendo usado como “psicólogo” por uma quantidade grande (e crescente) de pessoas. A princípio, parece uma boa ideia: ele é uma “voz amiga” sempre disponível para ouvir lamúrias e dar “bons conselhos”, sem julgamentos e ainda de graça. Mas, como já expliquei nesse espaço em mais de uma ocasião, esse é um dos piores usos que alguém pode fazer da inteligência artificial generativa.

Em primeiro lugar, do ponto de vista do processo terapêutico, é ineficiente. Justamente pela sua falta de humanidade, essas plataformas não só podem não ajudar os pacientes a encontrar soluções para seus problemas, como ainda podem agravá-los.

Mas um caso recente me fez pensar em um novo aspecto grave das “terapias por IA”. A história com final trágico de uma jovem americana expôs uma seríssima limitação dos terapeutas-robôs: eles não conseguem romper os limites daquelas conversas para avisar familiares e autoridades se algo terrível estiver prestes a acontecer.

Isso não é um detalhe. Para profissionais de saúde mental, essa ação é uma obrigação legal que ajuda a salvar vidas. Há crises que a terapia não consegue resolver e, por isso, precisam ser encaminhadas para outras instâncias.

Entretanto, a IA generativa não é um psicólogo, e, por isso, não segue o código de ética ou outras regras da profissão. E mesmo que quisesse seguir, não conseguiria. É aí que um uso ruim se torna perigoso demais.

Mas, afinal, que o problema de se usar a IA como “psicólogo”? É sobre isso que falo nesse episódio.

E você, o que acha de usar essa tecnologia com essa finalidade?


Mortes entre quem faz “terapia por IA”

Pílula de cultura digital para começarmos bem a semana 😊
A inteligência artificial pode e deve ser usada nas salas de aula, mas se não for do jeito certo, pode piorar muito a educação.

Nos últimos dias, a proposta de uma escola americana que trocou professores por plataformas de IA ganhou destaque no noticiário. Mas apesar de seduzir famílias interessadas em inovação e dispostas a pagar uma mensalidade equivalente a R$ 18 mil, a ideia promove um profundo desserviço para a educação.

Criada pela influenciadora MacKenzie Price em Austin e já presente em outras dez cidades no país, a Alpha School dedica apenas duas horas diárias a disciplinas tradicionais, como linguagem e matemática. Para ela, “as salas de aula são o novo campo de batalha global”. Todo o processo de aprendizagem é conduzido por sistemas de IA, que prometem ajustar o progresso ao desempenho individual dos estudantes, que não são divididos em séries.

O restante do tempo na escola serve para socialização, oficinas e projetos em temas como empreendedorismo, oratória, liderança e educação financeira, baseados em metas e recompensas. Para essas atividades, os alunos são auxiliados por “guias” (que não são professores), também orientados por IA.

Esse verniz de modernidade parece uma ótima ideia. Mas quem propôs isso não sabe o que é a inteligência artificial e muito menos o que é educação.

O tema foi debatido no painel de IA na educação no AI Summit Brasil, que aconteceu na semana passada em São Paulo, do qual participei. A conclusão foi que a IA pode e deve ser usada na escola, mas só trará resultados positivos se for implantada sob orientação de educadores, fugindo de modismos e de propostas espalhafatosas.

Mas, então, qual o caminho da IA na educação? É sobre isso que falo nesse episódio.

E você, o que acha de propostas como a da Alpha School?


Quando a IA melhora e piora a educação

Pílula de cultura digital para começarmos bem a semana 😊
Uma novidade do Google pode mudar como construímos nosso conhecimento.

Quando foi lançado, o ChatGPT ganhou a alcunha de “assassino do Google”, pois muita gente achava que a sua proposta seria a nova maneira de se buscar conteúdo. Mas passados 33 meses, o uso do buscador mantém-se estável. A ironia é que uma novidade do próprio Google pode enterrar, aos poucos, seu formato consagrado.

Trata-se do “Modo IA”, que estreou no Brasil no dia 8, quatro meses depois dos EUA. Ele se parece ao ChatGPT, com uma janela para o usuário escrever o que quer e então receber uma resposta completa, sintetizada a partir do conteúdo de páginas selecionadas pelo buscador.

Mas ao contrário do ChatGPT, o “Modo IA” faz parte do buscador. Isso pode ser determinante para popularizar o novo formato em substituição à busca tradicional. Assim a empresa pretende defender seu principal produto do crescimento das plataformas de IA concorrentes.

A novidade não deve ser vista como “apenas mais um recurso”. Seu sucesso pode alterar significativamente o processo de como buscamos conteúdo e construímos conhecimento, a exemplo do que o próprio Google fez no passado. Isso atende à demanda crescente por velocidade e praticidade, mas pode levar a ainda mais desinformação e conteúdos errados, e ampliar a tendência à superficialidade.

Mais grave é o risco de afetar cognitivamente os usuários. O “Modo IA” transforma a busca em um consumo passivo de respostas prontas, reduzindo o hábito de confrontar informações, exercitar a memória e analisar criticamente as fontes. Pela sua ilusão de completude, reduz a curiosidade e a busca por múltiplos pontos de vista, levando a um processo de “terceirização cognitiva”, em que delegamos tanta coisa às máquinas, que acabamos enfraquecendo nossa própria autonomia intelectual.

Surge então a dúvida legítima se esse recurso é mais positivo ou negativo para nós. É sobre isso que falo nesse episódio.

E você, acha que está usando a IA de maneira consciente e produtiva, ou está “terceirizando” coisas demais para ela?


O bom e o ruim do "Modo IA" do Google

Pílula de cultura digital para começarmos bem a semana 😊
Cuidado, pois seus pensamentos em breve poderão não ser mais só seus.

A inteligência artificial está sendo usada com outra ciência de ponta, a dos implantes neurais, para criar habilidades inéditas ou solucionar limitações físicas, como dificuldade de falar ou de se mover. Isso é algo muito bem-vindo, que beira a ficção científica, mas desperta alguns alertas de privacidade até então inimagináveis.

Afinal, se uma máquina for capaz de ler com boa precisão o que se passa em nosso cérebro para realizar essas tarefas, que garantias teremos de que nossos pensamentos mais íntimos estarão protegidos?

O cérebro continua sendo o último bastião da nossa privacidade. Nossos pensamentos são apenas nossos até que decidamos compartilhá-los. Mas agora novas aplicações da tecnologia BCI (sigla em inglês para “interface cérebro-computador”) podem mudar isso.

Uma pesquisa recente, que visava identificar palavras que uma pessoa estava pensando para reproduzi-las em um alto-falante, identificou também pensamentos cujo dono não pretendia compartilhar. Considerando que temos cerca de 50 pensamentos por minuto, qualquer sistema com essa proposta merece atenção redobrada.

O experimento ainda é embrionário, portanto ninguém precisa ter medo de que o ChatGPT acessará nossos segredos se não contarmos a ele. Mesmo assim, isso já deve alimentar debates sobre como impedir que máquinas invadam esse espaço sagrado que sustenta nossa própria individualidade.

Além disso, na mão de governos e de outros grupos de poder, isso significaria a ferramenta definitiva de manipulação das pessoas.

Mas, afinal, como funciona essa tecnologia? Estamos mesmo condenados a perder a nossa mais íntima privacidade? É sobre isso que falo nesse episódio.

O que você acha que aconteceria se todo mundo soubesse tudo que o outro está pensando?



IA pode acabar com a nossa privacidade

Pílula de cultura digital para começarmos bem a semana 😊
O valor da inteligência artificial vem do equilíbrio entre tecnologia e humanidade.

A IA colocou as empresas em uma encruzilhada digital histórica. Extrair valor real dessa tecnologia exige mais que investimentos em sistemas e servidores. Para isso, as lideranças precisam também gerenciar expectativas e cuidar do preparo humano das equipes.

Até hoje, apenas 20% dos projetos de IA alcançaram retorno financeiro, e míseros 2% promoveram uma transformação real nos negócios, onde reside o seu grande potencial. As empresas que encontram, capturam e sustentam ganhos com a IA são as que se afastam da descrença exagerada, que impede qualquer ação, e do deslumbramento inconsequente, que leva a investimentos sem foco.

Essas foram algumas das principais mensagens da Conferência Gartner CIO & IT Executive, que aconteceu em São Paulo entre 22 e 24 de setembro. O problema muitas vezes vem do desalinhamento de expectativas, com as companhias investindo apenas em projetos de produtividade, mas esperando grande geração de receita.

Atravessar esse “vale da desilusão” pede líderes que enfrentem ceticismo, calibrem metas e sustentem investimentos, mesmo sem resultados imediatos. Isso fica mais desafiador quando, segundo o Gartner, 95% dos latino-americanos querem usar IA, mas só 40% confiam que seus gestores farão os movimentos de forma responsável.

Isso explica por que as empresas já percorreram quase metade do caminho da prontidão tecnológica para o uso da IA, mas esse avanço mal chega a um quarto no preparo humano. O medo de perder o emprego, a curva de aprendizagem íngreme e sobretudo a falta de confiança na chefia explicam essa diferença.

Mas então, o que as empresas devem fazer para extrair esse valor real da IA. É sobre isso que falo nesse episódio.

E no seu cotidiano, você vê a IA sendo usada de maneira verdadeiramente transformadora ou apenas incremental?


O valor da IA vem do equilíbrio entre tecnologia e humanidade

Pílula de cultura digital para começarmos bem a semana 😊
Se fosse lançada hoje, a tirania dos algoritmos das plataformas de streaming teria matado “Bohemian Rhapsody”, obra-prima do Queen.

Seus 5 minutos e 55 segundos e estilo para lá de ousado não passariam pelo crivo dessas plataformas, que promovem insistentemente músicas de até 3 minutos, para satisfazer uma geração de ouvintes ansiosos. Mas outro fator nos privaria dessa que é considerada uma das músicas mais inventivas da história: a “criatividade estatística” da inteligência artificial.

O debate ganhou força com regras do Spotify para coibir o uso indevido de IA em sua plataforma, anunciadas no dia 24 de setembro. Elas incluem filtros rígidos para evitar spam musical, proteção contra a imitação não autorizada de artistas e a exigência de transparência na adoção da tecnologia. Segundo a plataforma, o objetivo não é punir o “uso criativo” da IA, mas impedir práticas que prejudiquem artistas e ouvintes.

Apesar de restrições assim, o concorrente Deezer aponta que hoje 28% das músicas publicadas na plataforma são totalmente feitas por IA; em janeiro, eram “apenas” 10%. Um estudo da consultoria francesa PMP Strategy, publicado em dezembro, indicou que, até 2028, os artistas perderão 24% da receita no setor, pela substituição das obras humanas pelas geradas por IA e pelo uso não autorizado de criações originais.

As plataformas de streaming e a IA estão transformando nosso gosto e a própria produção musical. Com o tempo, a IA modificará qualquer tipo de produção em nosso cotidiano, e infelizmente há um risco concreto de que isso piore a qualidade.

Isso acontecerá porque já estamos usando, como ferramenta criativa, algo que muitos especialistas afirmam não ter nenhuma criatividade. Mas o problema não é se máquinas podem ser inventivas, e sim entender o que realmente significa criatividade e se estamos dispostos a reconhecê-la em processos não-humanos.

Você acha que a “criatividade estatística” da IA pode ser considerada criatividade mesmo, algo até então exclusivo dos seres humanos?



“Criatividade estatística” da IA pode achatar o nosso senso crítico

Pílula de cultura digital para começarmos bem a semana 😊
Por que os professores brasileiros usam tanta IA?

Nesta quarta, comemora-se o Dia do Professor no Brasil. Mas, apesar de seu papel decisivo para a construção do país, esses profissionais têm pouco a celebrar, pelas conhecidas condições precárias de trabalho e formação e apoio limitados da sociedade. Ainda assim, persistem em sua nobre tarefa, até mesmo adaptando-se às mudanças tecnológicas na profissão, como as impostas pela inteligência artificial.

Chega a ser surpreendente que, mesmo com tantas condições adversas, nossos professores estejam entre os que mais usam essa tecnologia no seu trabalho. A informação é da Pesquisa Internacional de Ensino e Aprendizagem, publicada no dia 6 pela OCDE. Realizada desde 2008, cerca de 280 mil professores de 54 países participaram dessa edição.

O Brasil aparece em décimo nesse quesito, com 56% dos professores do Ensino Fundamental II usando IA nas suas aulas. Na liderança, empatados com 75%, estão os professores dos Emirados Árabes Unidos e de Cingapura. O país cujos professores menos usam é a França, com apenas 14%. A média dos países da OCDE é de 36%.

Vale notar que a adoção da IA na sala de aula varia bastante entre os países com educação de alta qualidade. Cingapura é o único desses acima do Brasil na Talis. Outras nações com educação de destaque vêm depois, como Coreia do Sul (43%), Dinamarca (36%), Estônia (35%) e Finlândia (27%).

Por isso, precisamos entender as condições em que essa tecnologia é utilizada na escola e o que leva os professores a adotá-la. Um uso sem preparo e sem apoio pode ajudar em tarefas pontuais, mas também prejudicar a própria compreensão da IA.

Já falhamos na educação dos jovens para o uso das redes sociais, levando a problemas graves e diversos. Repetir o erro com a IA pode transformar uma tecnologia poderosa e revolucionária em uma máquina de controle social e limitação cognitiva.

Mas então, como devemos usar a IA na aprendizagem? É sobre isso que falo nesse episódio.

E você, o que sugere?


Por que professores brasileiros usam tanto a IA

Jornalista (preferencialmente digital), educador (preferencialmente digital), trabalhando para tornar o mundo um lugar melhor

Não podemos ignorar os riscos da IA

Paulo Silvestre

Related tracks