Pílula de cultura digital para começarmos bem a semana 😊
As pessoas vêm se tornando presas fáceis de bandidos por acreditarem no que desejam e em “cópias sintéticas “ de sus ídolos.

Usar famosos para vender qualquer coisa sempre foi um recurso poderoso do marketing. Mas agora as imagens e as vozes dessas pessoas estão sendo usadas sem sua permissão ou seu conhecimento para promover produtos que eles jamais endossariam e sem que ganhem nada com isso.

Esse conteúdo falso é criado por inteligência artificial e está cada vez mais convincente. Além de anunciar todo tipo de quinquilharia, esses “deep fakes”, como é conhecida essa técnica, podem ser usados para convencer as massas muito além da venda de produtos, envolvendo aspectos políticos e até para se destruir reputações.

O processo todo fica ainda mais eficiente porque as pessoas acreditam mais naquilo que desejam, seja em uma “pílula milagrosa de emagrecimento” ou nas ideias insanas de seu “político de estimação”. Portanto, os bandidos usam os algoritmos das redes sociais para direcionar o conteúdo falso para quem gostaria que aquilo fosse verdade.

Há um outro aspecto mais sério: cresce também o uso de deep fakes de pessoas anônimas para a aplicação de golpes em amigos e familiares. Afinal, é mais fácil acreditar em alguém conhecido. Esse recurso também é usado por desafetos, por exemplo criando e distribuindo imagens pornográficas falsas de suas vítimas.

Não dá nem mais para dizer que é “preciso ver para crer”, pois o que está cristalino diante de nossos olhos e ouvidos pode ser uma completa enganação!

O que devemos fazer para não cairmos nessa armadilha e para protegermos nossa própria imagem? É sobre isso que falo nesse episódio. E você, como lida com esse crescimento da “fakes hiper-realistas”?

Me engana, que eu acredito!

Pílula de cultura digital para começarmos bem a semana 😊
Como de qualquer ferramenta, os resultados da inteligência artificial dependem das ações de quem a utiliza. Quem faz usos positivos dela produz bons frutos. Já os de má índole podem causar danos profundos.

Com seu poder disruptivo, essas consequências podem ser críticas! Esse foi o tema de um dos principais painéis do Web Summit Rio, um dos mais importantes eventos globais de tecnologia, mídia e inovação, que aconteceu no Rio de Janeiro, de terça a quinta da semana passada.

Um dos problemas deriva de a IA oferecer mecanismos para se alterar a realidade ou criar mentiras convincentes. Isso abre muitas possibilidade de golpes, ameaçando indivíduos, empresas e sociedades inteiras, como no caso de eleições. “Se a confiança for perdida, ficará muito difícil continuar inovando em coisas boas na IA”, disse no painel o estoniano Kaarel Kotkas, CEO da empresa de segurança Veriff.

Felizmente a mesma IA oferece recursos para combater essas ameaças. “A gente precisa pensar que seremos cada vez mais uma sociedade baseada em tecnologia”, me disse no evento Cesar Gon, CEO da empresa de tecnologia CI&T. “É importante acompanhar para onde a tecnologia vai e criar limites, mas garantindo que a ciência e a tecnologia continuem evoluindo para resolver os problemas humanos”, explicou, ressaltando que a IA deve sempre estar alinhada com os interesses da sociedade.

Diante de tanto poder computacional, chega a ser irônico que a maioria dos golpes não envolva invasão de sistemas. O elo mais frágil na segurança continua sendo o ser humano, enganado para que repasse informações pessoais (como senhas) ou realize ações prejudiciais. O que muda nessa engenharia social com a IA é que os procedimentos para confundir as pessoas se tornam mais convincentes, difíceis de se identificar, e agora atingem muita gente, para aumentar a chance de fazerem suas vítimas.

Como podemos nos proteger disso tudo? É sobre isso que falo nesse episódio.

E você, como usa a IA com segurança e produtividade?

IA pode deixar o mundo mais seguro e perigoso

Pílula de cultura digital para começarmos bem a semana 😊
A Secretaria da Educação do Estado de São Paulo confirmou que pretende usar o ChatGPT para “melhorar” as aulas que distribui para os professores das escolas estaduais paulistas.

Apesar de garantir que todo o conteúdo gerado pela máquina será revisado por sua equipe de professores curriculistas, esse uso da inteligência artificial abriu uma grande discussão sobre uma possível redução no papel do professor e nos riscos vindos de uma tecnologia reconhecidamente ainda falha.

Segundo a Secretaria, a IA fará suas propostas a partir do material já existente, criado pelos curriculistas para alunos do Ensino Fundamental II (do 6º ao 9º ano) e do Ensino Médio. O ChatGPT deve propor ampliações no conteúdo e criação de exercícios.

Professores criticam o material do governo, que consideram limitante. Também possui erros gramaticais, de formatação e conceituais. Como exemplo, uma aula afirmava que a Lei Áurea teria sido assinada em 1888 por D. Pedro II (foi pela sua filha, a princesa Isabel), enquanto outra dizia que a cidade de São Paulo possuía praias.

O temor é que o ChatGPT agrave o problema. Assim como outras plataformas de IA generativa, ele é programado para sempre dizer algo, mesmo que não saiba o quê. Nesse caso, pode responder verdadeiras barbaridades, mas, como faz isso com grande “convicção”, muita gente acredita nas suas informações erradas. São as chamadas “alucinações”.

Caberá aos professores curriculistas não apenas ajustar pedagogicamente a produção do ChatGPT, como também verificar se o que ele diz está correto e se não fere direitos autorais. Fica a pergunta se eles terão recursos e disposição para fazer isso. Caso contrário, a inteligência artificial poderá deseducar, ao invés de melhorar aulas.

Esse é o mais recente episódio da digitalização das escolas, bandeira de Feder. Apesar de achar que a IA pode ajudar muito os professores, uma implantação afobada pode ter efeitos nefastos na educação;

É sobre isso que falo nesse episódio. E você, acha que a IA deve preparar aulas?

ChatGPT invade a educação

Pílula de cultura digital para começarmos bem a semana 😊
Será que estamos pedindo demais da inteligência artificial?

Muito além do aquecido debate sobre legislações que organizem o uso da IA, começa a se formar um consenso sobre alguns valores em torno dessa tecnologia, como uso e desenvolvimento responsáveis, decisões rastreáveis e dois conceitos que se confundem e são pouco conhecidos: transparência e explicabilidade. Todos são essenciais para que os impactos da IA sejam positivos. Mas a sociedade está exigindo algo dessas plataformas que ela mesmo não pratica.

Se fizermos uma autoanálise, perceberemos que conscientemente não somos transparentes em muitas coisas de nosso cotidiano, assim como tampouco são empresas e instituições. Como exemplo, uma das maiores falhas das redes sociais, que levou à insana polarização da sociedade e a problemas de saúde mental de seus usuários, é a completa falta de transparência das decisões de seus algoritmos.

Diante disso, alguns especialistas afirmam que exigir esse nível de responsabilidade e transparência das plataformas de IA é um exagero e até, de certa forma, hipocrisia.

Talvez... Mas o fato de cultivarmos esses maus hábitos não pode ser usado para desestimular a busca desses objetivos nessa tecnologia com potencial de ofuscar a transformação que as redes sociais fizeram, que, por sua vez, deixou pequena as mudanças promovidas pela mídia tradicional anteriormente.

Se não tomarmos as devidas precauções, a inteligência artificial pode causar graves consequências para a humanidade pelas ações de grupos que buscam o poder de forma inconsequente. Por isso, ela precisa ser organizada para florescer como uma tecnologia que ampliará nossas capacidades criativas e de produção.

Sem esses pilares éticos, sequer confiaremos no que a IA nos disser, e então tudo irá por água abaixo.

Mas afinal, por que rastreabilidade, transparência e explicabilidade são tão importantes para a inteligência artificial? E o que elas significam? É sobre isso que falo nesse episódio.

A sociedade é hipócrita com a IA?

Pílula de cultura digital para começarmos bem a semana 😊
Estamos assistindo ao casamento da inteligência artificial com o open source, com grandes benefícios.

A corrida pela IA acontece não apenas entre as big techs, que buscam estabelecer a dominância nesse mercado bilionário, mas também entre profissionais e empresas que querem construir uma vantagem sobre seus concorrentes, pelo uso dessa tecnologia. Agora o open source, modelo de produção e distribuição em que qualquer um pode propor melhorias em softwares, chega com ideias que podem tornar a IA mais segura, fácil e profissional.

Desde que o ChatGPT a apresentou às massas há 18 meses, seu avanço acontece a passos largos. Mas apesar de algumas aplicações disponíveis parecerem mágicas em seus resultados, a IA ainda está engatinhando. Muitos dos usos que vêm sendo feitos dela são poucos profissionais e podem até expor dados sigilosos.

Em grande parte, isso acontece porque as pessoas usam ferramentas genéricas, construídas para respostas sobre qualquer assunto, como o próprio ChatGPT. O amadurecimento desse mercado passa, portanto, pela oferta de plataformas que permitam que as empresas criem e ajustem seus próprios modelos, adequados a necessidades específicas e com suas informações usadas de maneira segura.

Durante o Red Hat Summit, maior evento de open source do mundo, que aconteceu em Denver (EUA) na semana passada e do qual participei, a Red Hat, líder global de soluções nesse formato, apresentou o InstructLab, plataforma que propõe solucionar esses problemas. Ela permite que qualquer pessoa, mesmo sem conhecimento técnico, contribua com o desenvolvimento de modelos de IA para seus negócios.

Mas como isso funciona e quais as vantagens afinal? É sobre isso que falo nesse episódio.

E você, se sente pronto para criar o próprio modelo de inteligência artificial para o seu negócio?

A abertura da inteligência artificial

Pílula de cultura digital para começarmos bem a semana 😊
A criminalidade brasileira está transformando smartphones e a inteligência artificial.

A semana passada foi pródiga em lançamentos na área de tecnologia, fortemente impulsionados pela IA. Em meio a tantas novidades, alguns recursos de cibersegurança me chamaram atenção, porque podem ajudar muito no combate à criminalidade digital no Brasil ou até foram explicitamente criados para atender a demandas de usuários de nosso país.

Na terça, o Google anunciou, durante seu evento anual Google I/O, um grande pacote de novidades na sua plataforma de inteligência artificial Gemini e no sistema operacional Android. No dia anterior, a OpenAI mostrou o novo cérebro do ChatGPT, o GPT-4o, que se aproxima incrivelmente da capacidade conversacional humana, incluindo reconhecimento em tempo real de texto, áudio e vídeo.

As referidas novidades de segurança fazem parte do novo Android. Uma delas automaticamente travará o smartphone no caso de roubo pelas infames “gangues de bicicleta”, que assombram os brasileiros, especialmente em São Paulo. A outra tentará identificar, em chamadas por voz, possíveis golpes, avisando imediatamente a vítima para que não acredite na mentira. A IA é o motor de ambos os recursos.

Fiquei feliz ao saber dessas funcionalidades! Tristemente, há anos o brasileiro se obriga a limitar o uso de tecnologias revolucionárias pela ação de criminosos. É o caso de restrições ao Pix, de andar com smartphones sem todos os aplicativos e até de não poder usar caixas eletrônicos de madrugada.

Já passa da hora de as big techs se envolverem na solução desses problemas! Mas como funcionam esses novos recursos e qual é a sua efetividade? E disso que falo nesse episódio!

E você, o que faz para se proteger dos cibercriminosos?

A criminalidade brasileira está transformando a tecnologia

Pílula de cultura digital para começarmos bem a semana 😊
A inteligência artificial parece humana, mas ela não é!

A nossa interação com diferentes plataformas de IA fica cada vez mais parecida com conversas que temos com outras pessoas. Em alguns casos, nossos cérebros podem ser enganados para crer que estão interagindo com outros indivíduos, por mais que saibam que não é verdade.

Não é por acaso: as big techs querem que nos relacionemos com esses produtos de maneira mais “humana” possível. Mas longe de ser apenas um recurso para melhorar sua usabilidade, isso levanta questionamentos éticos e até de produtividade.

Ao longo da nossa evolução, aprimoramos a capacidade de atribuirmos características humanas ao que não é. Fazemos isso com animais de estimação, objetos, fenômenos da natureza e até a deuses.

É o que chamamos de antropomorfismo. Por exemplo, dizemos que “o cachorro é muito inteligente”, “o carro está nervoso”, “a chuva está chorando” e representamos divindades com corpos e emoções humanas.

Isso é importante, porque facilita a nossa compreensão e interação, especialmente com aquilo com que não somos familiarizados. Além disso, com essa prática, criamos vínculos e até sentimos empatia pelo que não é humano.

Isso explica, pelo menos parcialmente, o ChatGPT ter atingido 100 milhões de usuários em apenas dois meses, o que o tornou o produto de mais rápida adoção da história. Antropomorfizar a inteligência artificial nos deixa à vontade para usá-la intensamente e para acreditar em suas respostas.

Porém atribuir capacidades que esses sistemas não têm pode atrapalhar a nossa compreensão sobre o que realmente eles são e o que podemos fazer com a IA. Corremos o risco de acabar atribuindo responsabilidades que as máquinas não possuem. Por isso, precisamos usar a IA como ela realmente é.

E você, acha que está usando a inteligência artificial como se ela fosse um pessoa?

IA parece humana, mas ela não é!

Pílula de cultura digital para começarmos bem a semana 😊
Você é um “zumbi das redes sociais”?
 
“Responda aos comentários dos fãs para ajudar a aumentar o engajamento com a sua conta”. Nessa semana, o Facebook me conclamou (de novo) a interagir ainda mais com outras pessoas, como se isso fosse fazer uma grande diferença na minha vida.
 
Como a principal rede do Mark Zuckerberg definitivamente não me entrega tal valor, dei de ombros. Mas muita gente não consegue praticar esse desapego, seja no Facebook ou em outras redes sociais.
 
Isso vem provocando uma crescente onda de ansiosos por não darem conta de todas as “tarefas” sugeridas pelos algoritmos, como se fossem necessárias para se destacar em uma vida dividida constantemente entre as redes sociais e suas atividades presenciais.
 
Por que nos permitimos seduzir (ou controlar) por esses sistemas? Quando deixamos de agradar genuína e desinteressadamente pessoas verdadeiras para satisfazer as demandas insaciáveis das plataformas? Como elas conseguem nos dominar de maneira tão intensa e, ao mesmo tempo, subliminar?
 
A única rede que me traz benefícios reais é o LinkedIn. Meu mestrado se focou na construção de uma verdadeira reputação digital nele, mas, durante a pandemia, eu me debrucei sobre essas inquietações. Decidi então deixar de produzir para os algoritmos, como um escravizado digital, ou seja, como esses sistemas nos veem.
 
Já passou da hora de pararmos de nos submetermos aos caprichos desse capitalismo de vigilância e recuperarmos o controle de nossas vidas. No formato atual, as pessoas se afogam em sua ansiedade algorítmica, enquanto trabalham gratuitamente, sem perceber, para as redes sociais.
 
Mas como fazer isso? E será que somos capazes de escapar desse controle de nossas mentes? O que você faz para fazer um uso saudável dessas plataformas?

Como as redes sociais nos adoecem

Pílula de cultura digital para começarmos bem a semana 😊
A Índia inaugurou a era da política com inteligência artificial.

O resultado das eleições sempre esteve ligado ao uso das tecnologias da época. A TV era fundamental para a vitória até 2018, quando foi suplantada pelas redes sociais, críticas para definir os pleitos desde então.

Mas agora elas podem perder esse posto para a inteligência artificial. E a Índia, que acabou de realizar a maior eleição do mundo, demonstrou como dominar essa tecnologia ficou essencial para os candidatos.

A IA na política não se resume a criar deep fakes para desmoralizar adversários ou se valer do ChatGPT para compor peças publicitárias, legítimas ou falsas. Como alguns candidatos indianos demonstraram, ela pode desenvolver canais inovadores e personalizados com os eleitores. E isso parece até uma boa ideia!

Se a IA fornecesse a atenção que nenhum candidato humano conseguisse dar, atendendo cada cidadão individualmente, isso poderia até fortalecer a democracia. Mas o problema do uso da IA na política é o mesmo do seu uso em qualquer atividade: abusos de seus recursos para produzir resultados imprecisos, imorais e ilegais, para assim, mais que convencer, manipular multidões e vencer uma eleição.

No final, a IA maximiza a índole de quem a usa. E infelizmente a classe política tem sido pródiga em apresentar pessoas com uma moral rasteira, dispostas a pisotear a ética e usar todos os recursos para vencer.

Por isso, devemos olhar para o que aconteceu na Índia e aprender algo com aquilo. Se um bom uso da IA pode fortalecer a democracia, seu mau uso pode colocá-la em seríssimo risco!

Isso vale para a Índia, para os EUA e qualquer outro país, inclusive o Brasil. Teremos eleições municipais em outubro. Por isso, é hora de aproveitar o que há de bom e redobrar a atenção para os usos nocivos da IA! É assim que a política será feita de agora em diante.

Como você vê a entrada da IA na política? É disso que trato nesse episódio.

Índia inaugura era da política com IA

Pílula de cultura digital para começarmos bem a semana 😊
Não cansamos de nos deslumbrar com as capacidades da inteligência artificial generativa!

Quando foi apresentado no dia 13 de maio, o GPT-4o, versão mais recente do “cérebro” do ChatGPT, parecia mágico, com suas capacidades cognitivas refinadas e conversas bem-humoradas. Mas ironicamente, apesar de essa data estar associada à lei que formalizou o fim da escravidão no Brasil, o “milagre da IA” das grandes empresas de tecnologia depende de um trabalho muitas vezes estressante e mal remunerado, feito por uma multidão de pessoas subcontratadas em países pobres.

Conhecidos como rotuladores de dados, esses trabalhadores desempenham o papel crucial de ajudar os modelos de IA no que eles não conseguem distinguir por conta própria, de modo que, a partir daquela informação, eles saibam decidir corretamente. Por exemplo, em um conjunto de fotos, o que é um gato, um tigre, um leão e um cachorro? Um texto está com linguagem jornalística, publicitária ou acadêmica? Uma foto apresenta uma mulher amamentando, um nu artístico ou não passa de pornografia?

São sutilezas fáceis para uma pessoa entender, mas impossíveis para uma plataforma digital ainda destreinada. Mas depois que o rotulador de dados explica o que cada coisa é para a máquina, ela passa a ser capaz de identificar padrões para que tome boas decisões no futuro.

Como se pode ver, as respostas da IA dependem desse trabalho para serem adequadas. E como a humanidade usa cada vez mais esses sistemas, o descuido com o processo e com as pessoas nessa etapa pode trazer impactos significativos em tudo que fazemos. Portanto, se essas pessoas atuarem em condições degradantes, podemos estar confiando nosso futuro a uma forma de precarização de trabalho que pode trazer perigosos impactos para todos.

Quem forma essa “mão de obra oculta” da IA, e por que essas pessoas se submetem a isso? É sobre isso que falo nesse episódio.

Para usarmos a IA, uma multidão sofre

Pílula de cultura digital para começarmos bem a semana 😊
Por que a Apple adiou o lançamento na Europa de seus recursos de inteligência artificial, apresentados no início do mês?

A empresa culpou a Lei dos Mercados Digitais (DMA, na sigla em inglês), criada para evitar abusos das big techs, pela sua decisão, e não deu um prazo para que esses recursos cheguem ao continente.

Alguns europeus podem ficar irritados com a Apple; outros, com a lei. Mas essas regras existem justamente porque as gigantes de tecnologia abusam do poder que têm sobre seus usuários há décadas, criando relações comerciais desequilibradas, francamente desfavoráveis aos clientes.

A decisão da Apple de adiar a liberação desses recursos na Europa e sua oferta no resto do mundo é emblemática, e podemos aprender algo com ela. Em nota oficial, ela disse estar preocupada que os requisitos da DMA comprometam a integridade dos produtos, colocando em risco a privacidade e a segurança dos dados.

Oras, se as regras de uma lei que determina boas práticas comerciais e de concorrência ameaçam um serviço, ele não me parece maduro para ser lançado em qualquer mercado.
Isso precisa ser observado em todos os produtos, mas é particularmente importante nos que usam a inteligência artificial. Essa tecnologia é tão poderosa, que, ainda que esteja em seus estágios iniciais, já transforma nossas vidas e o cotidiano de empresas.

Nesse cenário, aspectos éticos e de governança são fundamentais para que a sociedade se desenvolva com a IA, evitando que ela aumente ainda mais a concentração de poder nas mãos de poucos grupos.

Por isso, eles não podem ser opcionais nessas plataformas: eles precisam fazer parte do negócio, desde sua concepção. Caso contrário, a população pode perder a confiança na IA, desperdiçando todo esse poder.

Mas como as empresas devem fazer isso do jeito certo? É sobre isso que trato nesse episódio.

Você também acha que a ética deve ser inegociável nas plataformas de IA?

Ética não pode ser um luxo na IA

Jornalista (preferencialmente digital), educador (preferencialmente digital), trabalhando para tornar o mundo um lugar melhor

Me engana, que eu acredito!

Paulo Silvestre

Related tracks