Pílula de cultura digital para começarmos bem a semana 😊
O novo “Black Mirror” chegou para nos ajudar a entender os riscos da inteligência artificial.

Em uma sociedade polarizada pelo poder descontrolado dos algoritmos das redes sociais, cresce o debate se a IA vai exterminar ou salvar a humanidade. Como costuma acontecer com esses extremismos, a verdade provavelmente fica em algum lugar no meio do caminho. 

Agora a sexta temporada da série, que estreou na Netflix na última quinta (15), surge com uma explicação lúdica de como essa tecnologia pode ser incrível ou devastadora, dependendo apenas de como será usada.

A icônica série, criada em 2011 pelo britânico Charlie Brooker, é conhecida pelas suas perturbadoras críticas ao mau uso de tecnologias. Sem correr risco de “dar spoiler”, o primeiro episódio da nova temporada (“A Joan É Péssima”) concentra-se na inteligência artificial generativa, mas guarda espaço para apontar outros abusos do mundo digital pela sociedade. Sobra até para a própria Netflix, a vilã do episódio!

Como fica claro na história, o poder da inteligência artificial cresce de maneira que chega a ser assustador, alimentando as teorias pessimistas ao redor dela. Se até especialistas se pegam questionando como essas plataformas estão “aprendendo”, para uma pessoa comum isso é praticamente incompreensível, algo ainda no campo da ficção científica.

Mas é real e está a nossa volta, começando pelos nossos smartphones.

Por que tanta gente boa pede que as pesquisas de IA sejam desaceleradas? Quais os incríveis benefícios ela pode nos oferecer? Afinal, quem tem razão? Tanto jogar um pouco de luz nesse debate com esse meu vídeo, com o apoio de “Black Mirror”.

E você, como enxerga esse avanço galopante da inteligência artificial?

“Black Mirror” explica ludicamente os riscos da inteligência artificial

Pílula de cultura digital para começarmos bem a semana 😊
Estamos diante do fim da liberdade quase irrestrita das big techs sobre nós?

Na segunda passada, a Apple foi multada pela União Europeia em €1,8 bilhão (cerca de R$ 9,8 bilhões), em um processo movido pelo Spotify, que a acusava de concorrência desleal. A decisão impacta muito mais que a empresa e seus clientes: reflete mudanças que governos tentam impor às big techs para reduzir seu enorme poder sobre a vida da população.

A principal queixa era a exigência pela Apple de que os aplicativos para o iPhone e o iPad sejam instalados exclusivamente a partir da App Store, com a empresa ficando com 30% das transações na sua plataforma. O Spotify entendia que o Apple Music, serviço de streaming da Apple, tinha uma vantagem indevida, pois esses 30% ficavam na empresa. Além disso, ele já vem pré-instalado nesses equipamentos.

Travestida de facilidade para os clientes, essa sutil imposição dos próprios produtos por ser dono de um ecossistema digital foi criada pela Microsoft na década de 1990, graças à dominância do Windows. Nos anos seguintes, o modelo foi aperfeiçoado pela Apple, Google e Meta. O processo foi tão eficiente, que nós mal percebemos essa dominação e achamos tudo normal.

Mas isso pode estar com os dias contados. Na Europa, as big techs fizeram mudanças profundas, graças à Lei dos Mercados Digitais, que passou a valer na quinta. Pelo tamanho do mercado europeu e por suas regulações da tecnologia inspirarem leis ao redor do mundo, podemos começar a ver movimentos semelhantes em outras regiões.

Essas empresas construíram seus impérios quase sem regras, focadas nos lucros, esmagando concorrentes e com rumos definidos apenas pelas suas bússolas morais. Resta saber se essas novas leis realmente encerrarão esse período de “autorregulação” e se isso beneficiará os seus clientes.

É sobre que falo nesse episódio. Junte-se a nós nesse debate!

O fim da autorregulação das big techs?

Pílula de cultura digital para começarmos bem a semana 😊
A Europa resolveu organizar a inteligência artificial! Será que vai dar certo?

O Parlamento Europeu aprovou na quarta a Lei da Inteligência Artificial, legislação pioneira que visa proteger a democracia, o meio ambiente e os direitos fundamentais, enquanto promove o desenvolvimento dessa tecnologia.

As novas regras, que entrarão em vigor ao longo de dois anos, estabelecem obrigações para desenvolvedores, autoridades e usuários da IA, de acordo com potenciais riscos e impacto de cada aplicação.

Na semana anterior, a Europa já havia aprovado uma lei que regula a atuação das gigantes da tecnologia, favorecendo a competição. Tudo isso consolida a vanguarda do continente na organização do uso do mundo digital para proteger e beneficiar a sociedade, inspirando leis pelo mundo. O maior exemplo é a GDPR, para proteção de dados, que no Brasil inspirou a LGPD, nossa Lei Geral de Proteção de Dados.

Legislações assim se tornam necessárias à medida que a digitalização ocupa espaço central na vida, transformando profundamente a sociedade. Isso acontece desde o surgimento da Internet comercial, na década de 1990. De lá para cá, cresceu com as redes sociais, os smartphones e agora com a inteligência artificial.

O grande debate em torno dessas regras é se elas podem prejudicar a sociedade, ao atrapalhar o desenvolvimento tecnológico. A preocupação é legítima, mas ganha uma dimensão muito maior que a real por influência dessas empresas, que se tornaram impérios por atuarem quase sem regras até agora, e gostariam de continuar assim.

Infelizmente essas big techs abusaram dessa liberdade, sufocando a concorrência e criando recursos que, na prática, podem prejudicar severamente seus usuários. Portanto, essas leis não devem ser vistas como ameaças à inovação (que continuará existindo), e sim como necessárias orientações sociais para o uso da tecnologia.

Para saber mais como funciona a nova lei europeia, ouça esse episódio. E depois conte para nós aqui o que acha de regulamentações de tecnologias.

Regulamentando a IA do jeito certo

Pílula de cultura digital para começarmos bem a semana 😊
Como a inteligência artificial pode alterar o próprio conceito das guerras?

Para mim, elas representam a falência da humanidade. Quando governos recorrem a armas para impor pontos de vista ou obter ganhos às custas de incontáveis vidas humanas e enorme destruição, algo dramaticamente deu errado, partindo para a força.

A tecnologia vem abrindo novos caminhos para a guerra, em que as armas dividem seu protagonismo com o mundo digital.

Talvez cheguemos a um cenário em que se vença um conflito sem que nenhum tiro seja disparado, o que não quer dizer que não mais existirão prejuízos e sofrimento. Ainda não estamos lá, mas a brutal invasão russa na Ucrânia fez dos dois anos desse teatro de guerra um campo de testes tecnológicos de drones, novos materiais e inteligência artificial para fins militares, que estão transformando o conceito da guerra.

Ela sempre esteve associada à ciência, para o desenvolvimento de melhores estratégias e armamentos. Grandes avanços para a humanidade também se derivaram disso, como a penicilina e até os fornos de micro-ondas.

Agora a Ucrânia vivencia uma guerra de algoritmos, inteligência artificial e satélites. O desconhecido se torna claro, previsível e muitas vezes evitável. Por outro lado, tropas e civis se tornam mais vulneráveis. Generais criam assim suas estratégias com o apoio de algoritmos preditivos e de armas que cumprem “suas missões” sozinhas.

Mas então por que o conflito da Ucrânia chegou a um impasse, sem conclusão aparente? Por que as cidades seguem sendo destruídas e as pessoas continuam sendo mortas? É sobre isso e sobre o papel da tecnologia digital que falo nesse episódio.

Como se pode ver, nesse videogame, ninguém tem vida extra.

As guerras do futuro (ou do presente?)

Pílula de cultura digital para começarmos bem a semana 😊
A cada dia, surgem mais aplicações com inteligência artificial. O ChatGPT mostrou para as massas como essa tecnologia pode trazer grandes ganhos, e isso ciou uma sensação de que a IA automatizará tudo. Mas isso não é verdade: o ser humano ainda precisa supervisionar seu aprendizado e suas conclusões. Ainda assim, a colaboração inteligente entre máquinas e pessoas pode tornar possível coisas até então inimagináveis.

Esses foram alguns dos principais temas da conferência Gartner Data & Analytics, que aconteceu em São Paulo na terça e na quarta. Na palestra de abertura, Aura Popa, diretora-sênior, e Kurt Schlegel, vice-presidente da consultoria, fizeram uma analogia entre a inteligência coletiva do mundo animal e o que podemos fazer junto com a inteligência artificial.

Esse fenômeno se observa desde enxames de abelhas até matilhas de lobos. Nelas, cada indivíduo tem autonomia em suas decisões, mas também trabalha para o grupo. Dessa maneira, não apenas sobrevive, como também prospera, atingindo coletivamente ganhos que não conseguiria sozinho.

A inteligência artificial funcionaria como um facilitador para as pessoas criarem valores inéditos juntas. Mas, para isso, as empresas precisam reorganizar seus modelos operacionais para dar autonomia e flexibilidade aos profissionais. Devem também ampliar sua educação para usos conscientes dos dados e da IA. Por fim, precisam distribuir autoridade e responsabilidade para que todos atuem com um propósito bem definido, em todos os níveis da organização.

É uma proposta interessante, neste momento em que ainda tateamos a IA para encontrar boas formas de usá-la. Na conferência, ficou claro que não se deve delegar decisões críticas completamente à máquina, pois ela pode cometer erros graves. Fazer isso também aceleraria o temor generalizado de termos nossos empregos substituídos por robôs.

Você sabe como criar essa inteligência coletiva com o apoio da IA? É sobre isso que falo nesse episódio. E como vem usando essa tecnologia?

Inteligência coletiva entre pessoas e máquinas

Pílula de cultura digital para começarmos bem a semana 😊
Você já pensou que, mais que aumento do desemprego, a inteligência artificial pode levar a uma crise de identidade?

Não é catastrofismo!

A enorme visibilidade em torno da IA desde que o ChatGPT foi lançado reacendeu o velho temor de que, em algum momento, perderemos os nossos empregos para as máquinas. Mas para o futurista em IA Zack Kass, a tecnologia pode provocar outras mudanças no mundo do trabalho, que podem levar a essas crises de identidade.

Kass, um dos primeiros profissionais da OpenAI (criadora do ChatGPT), onde atuou por 14 anos, acredita que as pessoas continuarão trabalhando. Mas em muitos casos, elas não poderão fazer o que gostam ou no que foram formadas, porque a função será realizada por um robô. E aí nasce o problema!

“Nós conectamos intrinsicamente nossa identidade de trabalho à nossa identidade pessoal”, explica o executivo, que esteve no Brasil na semana passada para participar do VTEX Day, um dos maiores eventos de e-commerce do mundo. Segundo ele, mesmo que as necessidades das pessoas sejam atendidas, não poderem trabalhar com o que desejam pode lhes causar fortes reações. “Esse é meu maior medo”, disse.

Se nada for feito, essa previsão sombria pode mesmo se concretizar. Diante dessa perspectiva, os profissionais experientes e os recém-formados devem fazer os movimentos certos para não ficarem desempregados ou para não serem jogados nessa crise profissional e de identidade, o que seria ainda mais grave.

Mas quais são esses movimentos? Como podemos nos proteger? Qual o papel das empresas desenvolvedoras e até dos governos? É sobre isso que falo nesse episódio.

IA pode atrapalhar seu sonho profissional

Pílula de cultura digital para começarmos bem a semana 😊
Como de qualquer ferramenta, os resultados da inteligência artificial dependem das ações de quem a utiliza. Quem faz usos positivos dela produz bons frutos. Já os de má índole podem causar danos profundos.

Com seu poder disruptivo, essas consequências podem ser críticas! Esse foi o tema de um dos principais painéis do Web Summit Rio, um dos mais importantes eventos globais de tecnologia, mídia e inovação, que aconteceu no Rio de Janeiro, de terça a quinta da semana passada.

Um dos problemas deriva de a IA oferecer mecanismos para se alterar a realidade ou criar mentiras convincentes. Isso abre muitas possibilidade de golpes, ameaçando indivíduos, empresas e sociedades inteiras, como no caso de eleições. “Se a confiança for perdida, ficará muito difícil continuar inovando em coisas boas na IA”, disse no painel o estoniano Kaarel Kotkas, CEO da empresa de segurança Veriff.

Felizmente a mesma IA oferece recursos para combater essas ameaças. “A gente precisa pensar que seremos cada vez mais uma sociedade baseada em tecnologia”, me disse no evento Cesar Gon, CEO da empresa de tecnologia CI&T. “É importante acompanhar para onde a tecnologia vai e criar limites, mas garantindo que a ciência e a tecnologia continuem evoluindo para resolver os problemas humanos”, explicou, ressaltando que a IA deve sempre estar alinhada com os interesses da sociedade.

Diante de tanto poder computacional, chega a ser irônico que a maioria dos golpes não envolva invasão de sistemas. O elo mais frágil na segurança continua sendo o ser humano, enganado para que repasse informações pessoais (como senhas) ou realize ações prejudiciais. O que muda nessa engenharia social com a IA é que os procedimentos para confundir as pessoas se tornam mais convincentes, difíceis de se identificar, e agora atingem muita gente, para aumentar a chance de fazerem suas vítimas.

Como podemos nos proteger disso tudo? É sobre isso que falo nesse episódio.

E você, como usa a IA com segurança e produtividade?

IA pode deixar o mundo mais seguro e perigoso

Pílula de cultura digital para começarmos bem a semana 😊
A Secretaria da Educação do Estado de São Paulo confirmou que pretende usar o ChatGPT para “melhorar” as aulas que distribui para os professores das escolas estaduais paulistas.

Apesar de garantir que todo o conteúdo gerado pela máquina será revisado por sua equipe de professores curriculistas, esse uso da inteligência artificial abriu uma grande discussão sobre uma possível redução no papel do professor e nos riscos vindos de uma tecnologia reconhecidamente ainda falha.

Segundo a Secretaria, a IA fará suas propostas a partir do material já existente, criado pelos curriculistas para alunos do Ensino Fundamental II (do 6º ao 9º ano) e do Ensino Médio. O ChatGPT deve propor ampliações no conteúdo e criação de exercícios.

Professores criticam o material do governo, que consideram limitante. Também possui erros gramaticais, de formatação e conceituais. Como exemplo, uma aula afirmava que a Lei Áurea teria sido assinada em 1888 por D. Pedro II (foi pela sua filha, a princesa Isabel), enquanto outra dizia que a cidade de São Paulo possuía praias.

O temor é que o ChatGPT agrave o problema. Assim como outras plataformas de IA generativa, ele é programado para sempre dizer algo, mesmo que não saiba o quê. Nesse caso, pode responder verdadeiras barbaridades, mas, como faz isso com grande “convicção”, muita gente acredita nas suas informações erradas. São as chamadas “alucinações”.

Caberá aos professores curriculistas não apenas ajustar pedagogicamente a produção do ChatGPT, como também verificar se o que ele diz está correto e se não fere direitos autorais. Fica a pergunta se eles terão recursos e disposição para fazer isso. Caso contrário, a inteligência artificial poderá deseducar, ao invés de melhorar aulas.

Esse é o mais recente episódio da digitalização das escolas, bandeira de Feder. Apesar de achar que a IA pode ajudar muito os professores, uma implantação afobada pode ter efeitos nefastos na educação;

É sobre isso que falo nesse episódio. E você, acha que a IA deve preparar aulas?

ChatGPT invade a educação

Pílula de cultura digital para começarmos bem a semana 😊
Será que estamos pedindo demais da inteligência artificial?

Muito além do aquecido debate sobre legislações que organizem o uso da IA, começa a se formar um consenso sobre alguns valores em torno dessa tecnologia, como uso e desenvolvimento responsáveis, decisões rastreáveis e dois conceitos que se confundem e são pouco conhecidos: transparência e explicabilidade. Todos são essenciais para que os impactos da IA sejam positivos. Mas a sociedade está exigindo algo dessas plataformas que ela mesmo não pratica.

Se fizermos uma autoanálise, perceberemos que conscientemente não somos transparentes em muitas coisas de nosso cotidiano, assim como tampouco são empresas e instituições. Como exemplo, uma das maiores falhas das redes sociais, que levou à insana polarização da sociedade e a problemas de saúde mental de seus usuários, é a completa falta de transparência das decisões de seus algoritmos.

Diante disso, alguns especialistas afirmam que exigir esse nível de responsabilidade e transparência das plataformas de IA é um exagero e até, de certa forma, hipocrisia.

Talvez... Mas o fato de cultivarmos esses maus hábitos não pode ser usado para desestimular a busca desses objetivos nessa tecnologia com potencial de ofuscar a transformação que as redes sociais fizeram, que, por sua vez, deixou pequena as mudanças promovidas pela mídia tradicional anteriormente.

Se não tomarmos as devidas precauções, a inteligência artificial pode causar graves consequências para a humanidade pelas ações de grupos que buscam o poder de forma inconsequente. Por isso, ela precisa ser organizada para florescer como uma tecnologia que ampliará nossas capacidades criativas e de produção.

Sem esses pilares éticos, sequer confiaremos no que a IA nos disser, e então tudo irá por água abaixo.

Mas afinal, por que rastreabilidade, transparência e explicabilidade são tão importantes para a inteligência artificial? E o que elas significam? É sobre isso que falo nesse episódio.

A sociedade é hipócrita com a IA?

Pílula de cultura digital para começarmos bem a semana 😊
Estamos assistindo ao casamento da inteligência artificial com o open source, com grandes benefícios.

A corrida pela IA acontece não apenas entre as big techs, que buscam estabelecer a dominância nesse mercado bilionário, mas também entre profissionais e empresas que querem construir uma vantagem sobre seus concorrentes, pelo uso dessa tecnologia. Agora o open source, modelo de produção e distribuição em que qualquer um pode propor melhorias em softwares, chega com ideias que podem tornar a IA mais segura, fácil e profissional.

Desde que o ChatGPT a apresentou às massas há 18 meses, seu avanço acontece a passos largos. Mas apesar de algumas aplicações disponíveis parecerem mágicas em seus resultados, a IA ainda está engatinhando. Muitos dos usos que vêm sendo feitos dela são poucos profissionais e podem até expor dados sigilosos.

Em grande parte, isso acontece porque as pessoas usam ferramentas genéricas, construídas para respostas sobre qualquer assunto, como o próprio ChatGPT. O amadurecimento desse mercado passa, portanto, pela oferta de plataformas que permitam que as empresas criem e ajustem seus próprios modelos, adequados a necessidades específicas e com suas informações usadas de maneira segura.

Durante o Red Hat Summit, maior evento de open source do mundo, que aconteceu em Denver (EUA) na semana passada e do qual participei, a Red Hat, líder global de soluções nesse formato, apresentou o InstructLab, plataforma que propõe solucionar esses problemas. Ela permite que qualquer pessoa, mesmo sem conhecimento técnico, contribua com o desenvolvimento de modelos de IA para seus negócios.

Mas como isso funciona e quais as vantagens afinal? É sobre isso que falo nesse episódio.

E você, se sente pronto para criar o próprio modelo de inteligência artificial para o seu negócio?

A abertura da inteligência artificial

Pílula de cultura digital para começarmos bem a semana 😊
A criminalidade brasileira está transformando smartphones e a inteligência artificial.

A semana passada foi pródiga em lançamentos na área de tecnologia, fortemente impulsionados pela IA. Em meio a tantas novidades, alguns recursos de cibersegurança me chamaram atenção, porque podem ajudar muito no combate à criminalidade digital no Brasil ou até foram explicitamente criados para atender a demandas de usuários de nosso país.

Na terça, o Google anunciou, durante seu evento anual Google I/O, um grande pacote de novidades na sua plataforma de inteligência artificial Gemini e no sistema operacional Android. No dia anterior, a OpenAI mostrou o novo cérebro do ChatGPT, o GPT-4o, que se aproxima incrivelmente da capacidade conversacional humana, incluindo reconhecimento em tempo real de texto, áudio e vídeo.

As referidas novidades de segurança fazem parte do novo Android. Uma delas automaticamente travará o smartphone no caso de roubo pelas infames “gangues de bicicleta”, que assombram os brasileiros, especialmente em São Paulo. A outra tentará identificar, em chamadas por voz, possíveis golpes, avisando imediatamente a vítima para que não acredite na mentira. A IA é o motor de ambos os recursos.

Fiquei feliz ao saber dessas funcionalidades! Tristemente, há anos o brasileiro se obriga a limitar o uso de tecnologias revolucionárias pela ação de criminosos. É o caso de restrições ao Pix, de andar com smartphones sem todos os aplicativos e até de não poder usar caixas eletrônicos de madrugada.

Já passa da hora de as big techs se envolverem na solução desses problemas! Mas como funcionam esses novos recursos e qual é a sua efetividade? E disso que falo nesse episódio!

E você, o que faz para se proteger dos cibercriminosos?

A criminalidade brasileira está transformando a tecnologia

Jornalista (preferencialmente digital), educador (preferencialmente digital), trabalhando para tornar o mundo um lugar melhor

“Black Mirror” explica ludicamente os riscos da inteligência artificial

Paulo Silvestre

Related tracks