Pílula de cultura digital para começarmos bem a semana 😊
Um sistema de inteligência artificial não tem índole, mas pode desenvolver um viés em suas decisões. Apesar de indesejável, esse comportamento da máquina não costuma ser um problema de sua programação, e sim resultado de usos inadequados da plataforma por pessoas que ensinam valores condenáveis ao sistema.
 
Não faz muito bem para o ego da espécie humana dizer isso, mas esses usuários “emburrecem” as plataformas de inteligência artificial.

O que diferencia esses sistemas de programas de computador convencionais é justamente a sua capacidade de aprender com seus usuários o que seria o melhor para eles. Em tese, isso permitiria que a máquina se tornasse casa vez mais eficiente em suas tarefas. Mas esses sistemas, assim como crianças inocentes, tomam decisões erradas se forem mal instruídos. 

Um caso que ficou famoso há alguns dias foi oi algoritmo do Instagram censurando o cartaz do novo filme do premiado diretor espanhol Pedro Almodóvar. Tudo porque aparece um mamilo na imagem. Enquanto isso, baldes de fotos sexualizadas continuam na rede porque disfarçam os mamilos, e assim seguem a regra do jogo.

As consequências das falhas da inteligência artificial vão muito além disso em nossas vidas. Como essas plataformas estão cada vez mais em tudo que fazemos, elas podem nos influenciar a tomar decisões equivocadas.

Ou seja, usuários pioram a inteligência artificial, que confunde as pessoas, em um círculo vicioso de más influências.

O que devemos fazer para minimizar esses problemas com uma ferramenta que tem valor inestimável? É sobre isso que falo nesse episódio.

E você, sabe até onde a inteligência artificial afeta o seu cotidiano?

As pessoas podem emburrecer a inteligência artificial

Pílula de cultura digital para começarmos bem a semana 😊
No dia 13, o Gabinete de Marcas e Patentes dos Estados Unidos determinou que patentes não podem ser registradas em nome de plataformas de inteligência artificial, apenas por pessoas. Essa tecnologia pode, entretanto, ser usada intensamente no desenvolvimento de invenções: basta seres humanos terem feito uma “contribuição significativa” para que a patente possa ser concedida.

A questão que salta aos olhos é: quem é o verdadeiro inventor nesse caso?

Apesar de bem-intencionada, a determinação possui falhas conceituais. A proposta de garantir que a propriedade intelectual continue sob domínio de pessoas é bem-vinda. Mas ao permitir que a IA seja usada na pesquisa (e não faz sentido proibir isso hoje), cria-se uma brecha para que ela seja vista como coautora do processo.

Como a tal contribuição humana não precisa ser comprovada, pode acontecer ainda de a IA fazer todo o trabalho e depois não ser “reconhecida” pelos pesquisadores. Seria injusto com o robô?

O aspecto tecnológico então dá lugar a outros, éticos e filosóficos: a máquina trabalha para nós ou o contrário, quando lhe fornecemos comandos e ela se torna coautora?

Além disso, imagine o ChatGPT começando a se tornar coautor de patentes de tudo em que ele for usado: sua criadora, a OpenAI, rapidamente se tornaria a maior detentora de patentes do mundo! Ela deveria então receber royalties por todas essas invenções?

Nada disso está claro! Mas como diz o ditado, “é nos detalhes que mora o diabo”.

E você, acha que a IA deve ser usada intensamente em inventos? Ela teria algum direito sobre eles? É sobre isso que falo nesse episódio.

IA não pode patentear seus inventos

Pílula de cultura digital para começarmos bem a semana 😊
Chegou a hora e a vez da inteligência artificial nas eleições. Como isso vai impactar as campanhas?

A tecnologia volta a ser protagonista na política, e não dá para ignorar isso em um mundo tão digital. Na terça, o Tribunal Superior Eleitoral aprovou instruções para o pleito municipal desse ano. Os usos de redes sociais e inteligência artificial nas campanhas chamaram atenção. 

Mas apesar de positivas e bem-produzidas, elas não dizem como identificar e punir a totalidade de crimes eleitorais no ciberespaço, que só aumentam. Enquanto isso, a tecnologia continua favorecendo os criminosos.

Claro que a medida gerou uma polêmica instantânea! Desde 2018, as eleições brasileiras vêm crescentemente sendo decididas com forte influência do que se vê nas redes sociais, especialmente as fake news, que racharam a sociedade brasileira ao meio. Agora a inteligência artificial pode ampliar a insana polarização que elege candidatos com poucas propostas e muito ódio no discurso.

É importante que fique claro que as novas regras não impedem o uso de redes sociais ou de inteligência artificial. Seria insensato bloquear tecnologias que permeiam nossa vida e podem ajudar a melhorar a qualidade e a baratear as campanhas, o que é bem-vindo, especialmente para candidatos mais pobres. Mas não podemos ser inocentes e achar que os políticos farão apenas usos positivos de tanto poder em suas mãos.

Infelizmente a solução para essas más práticas do mundo digital não acontecerá apenas com regulamentos. Esse é também um dilema tecnológico e as plataformas digitais precisam se envolver com seriedade nesse esforço.

O que você acha dessas medidas: elas ajudam ou atrapalham? Serão efetivas? E qual deve ser o impacto da IA nas campanhas e nos seus resultados?

A hora e a vez da IA nas eleições

Pílula de cultura digital para começarmos bem a semana 😊
Estamos diante do fim da liberdade quase irrestrita das big techs sobre nós?

Na segunda passada, a Apple foi multada pela União Europeia em €1,8 bilhão (cerca de R$ 9,8 bilhões), em um processo movido pelo Spotify, que a acusava de concorrência desleal. A decisão impacta muito mais que a empresa e seus clientes: reflete mudanças que governos tentam impor às big techs para reduzir seu enorme poder sobre a vida da população.

A principal queixa era a exigência pela Apple de que os aplicativos para o iPhone e o iPad sejam instalados exclusivamente a partir da App Store, com a empresa ficando com 30% das transações na sua plataforma. O Spotify entendia que o Apple Music, serviço de streaming da Apple, tinha uma vantagem indevida, pois esses 30% ficavam na empresa. Além disso, ele já vem pré-instalado nesses equipamentos.

Travestida de facilidade para os clientes, essa sutil imposição dos próprios produtos por ser dono de um ecossistema digital foi criada pela Microsoft na década de 1990, graças à dominância do Windows. Nos anos seguintes, o modelo foi aperfeiçoado pela Apple, Google e Meta. O processo foi tão eficiente, que nós mal percebemos essa dominação e achamos tudo normal.

Mas isso pode estar com os dias contados. Na Europa, as big techs fizeram mudanças profundas, graças à Lei dos Mercados Digitais, que passou a valer na quinta. Pelo tamanho do mercado europeu e por suas regulações da tecnologia inspirarem leis ao redor do mundo, podemos começar a ver movimentos semelhantes em outras regiões.

Essas empresas construíram seus impérios quase sem regras, focadas nos lucros, esmagando concorrentes e com rumos definidos apenas pelas suas bússolas morais. Resta saber se essas novas leis realmente encerrarão esse período de “autorregulação” e se isso beneficiará os seus clientes.

É sobre que falo nesse episódio. Junte-se a nós nesse debate!

O fim da autorregulação das big techs?

Pílula de cultura digital para começarmos bem a semana 😊
A Europa resolveu organizar a inteligência artificial! Será que vai dar certo?

O Parlamento Europeu aprovou na quarta a Lei da Inteligência Artificial, legislação pioneira que visa proteger a democracia, o meio ambiente e os direitos fundamentais, enquanto promove o desenvolvimento dessa tecnologia.

As novas regras, que entrarão em vigor ao longo de dois anos, estabelecem obrigações para desenvolvedores, autoridades e usuários da IA, de acordo com potenciais riscos e impacto de cada aplicação.

Na semana anterior, a Europa já havia aprovado uma lei que regula a atuação das gigantes da tecnologia, favorecendo a competição. Tudo isso consolida a vanguarda do continente na organização do uso do mundo digital para proteger e beneficiar a sociedade, inspirando leis pelo mundo. O maior exemplo é a GDPR, para proteção de dados, que no Brasil inspirou a LGPD, nossa Lei Geral de Proteção de Dados.

Legislações assim se tornam necessárias à medida que a digitalização ocupa espaço central na vida, transformando profundamente a sociedade. Isso acontece desde o surgimento da Internet comercial, na década de 1990. De lá para cá, cresceu com as redes sociais, os smartphones e agora com a inteligência artificial.

O grande debate em torno dessas regras é se elas podem prejudicar a sociedade, ao atrapalhar o desenvolvimento tecnológico. A preocupação é legítima, mas ganha uma dimensão muito maior que a real por influência dessas empresas, que se tornaram impérios por atuarem quase sem regras até agora, e gostariam de continuar assim.

Infelizmente essas big techs abusaram dessa liberdade, sufocando a concorrência e criando recursos que, na prática, podem prejudicar severamente seus usuários. Portanto, essas leis não devem ser vistas como ameaças à inovação (que continuará existindo), e sim como necessárias orientações sociais para o uso da tecnologia.

Para saber mais como funciona a nova lei europeia, ouça esse episódio. E depois conte para nós aqui o que acha de regulamentações de tecnologias.

Regulamentando a IA do jeito certo

Pílula de cultura digital para começarmos bem a semana 😊
Como a inteligência artificial pode alterar o próprio conceito das guerras?

Para mim, elas representam a falência da humanidade. Quando governos recorrem a armas para impor pontos de vista ou obter ganhos às custas de incontáveis vidas humanas e enorme destruição, algo dramaticamente deu errado, partindo para a força.

A tecnologia vem abrindo novos caminhos para a guerra, em que as armas dividem seu protagonismo com o mundo digital.

Talvez cheguemos a um cenário em que se vença um conflito sem que nenhum tiro seja disparado, o que não quer dizer que não mais existirão prejuízos e sofrimento. Ainda não estamos lá, mas a brutal invasão russa na Ucrânia fez dos dois anos desse teatro de guerra um campo de testes tecnológicos de drones, novos materiais e inteligência artificial para fins militares, que estão transformando o conceito da guerra.

Ela sempre esteve associada à ciência, para o desenvolvimento de melhores estratégias e armamentos. Grandes avanços para a humanidade também se derivaram disso, como a penicilina e até os fornos de micro-ondas.

Agora a Ucrânia vivencia uma guerra de algoritmos, inteligência artificial e satélites. O desconhecido se torna claro, previsível e muitas vezes evitável. Por outro lado, tropas e civis se tornam mais vulneráveis. Generais criam assim suas estratégias com o apoio de algoritmos preditivos e de armas que cumprem “suas missões” sozinhas.

Mas então por que o conflito da Ucrânia chegou a um impasse, sem conclusão aparente? Por que as cidades seguem sendo destruídas e as pessoas continuam sendo mortas? É sobre isso e sobre o papel da tecnologia digital que falo nesse episódio.

Como se pode ver, nesse videogame, ninguém tem vida extra.

As guerras do futuro (ou do presente?)

Pílula de cultura digital para começarmos bem a semana 😊
A cada dia, surgem mais aplicações com inteligência artificial. O ChatGPT mostrou para as massas como essa tecnologia pode trazer grandes ganhos, e isso ciou uma sensação de que a IA automatizará tudo. Mas isso não é verdade: o ser humano ainda precisa supervisionar seu aprendizado e suas conclusões. Ainda assim, a colaboração inteligente entre máquinas e pessoas pode tornar possível coisas até então inimagináveis.

Esses foram alguns dos principais temas da conferência Gartner Data & Analytics, que aconteceu em São Paulo na terça e na quarta. Na palestra de abertura, Aura Popa, diretora-sênior, e Kurt Schlegel, vice-presidente da consultoria, fizeram uma analogia entre a inteligência coletiva do mundo animal e o que podemos fazer junto com a inteligência artificial.

Esse fenômeno se observa desde enxames de abelhas até matilhas de lobos. Nelas, cada indivíduo tem autonomia em suas decisões, mas também trabalha para o grupo. Dessa maneira, não apenas sobrevive, como também prospera, atingindo coletivamente ganhos que não conseguiria sozinho.

A inteligência artificial funcionaria como um facilitador para as pessoas criarem valores inéditos juntas. Mas, para isso, as empresas precisam reorganizar seus modelos operacionais para dar autonomia e flexibilidade aos profissionais. Devem também ampliar sua educação para usos conscientes dos dados e da IA. Por fim, precisam distribuir autoridade e responsabilidade para que todos atuem com um propósito bem definido, em todos os níveis da organização.

É uma proposta interessante, neste momento em que ainda tateamos a IA para encontrar boas formas de usá-la. Na conferência, ficou claro que não se deve delegar decisões críticas completamente à máquina, pois ela pode cometer erros graves. Fazer isso também aceleraria o temor generalizado de termos nossos empregos substituídos por robôs.

Você sabe como criar essa inteligência coletiva com o apoio da IA? É sobre isso que falo nesse episódio. E como vem usando essa tecnologia?

Inteligência coletiva entre pessoas e máquinas

Pílula de cultura digital para começarmos bem a semana 😊
Você já pensou que, mais que aumento do desemprego, a inteligência artificial pode levar a uma crise de identidade?

Não é catastrofismo!

A enorme visibilidade em torno da IA desde que o ChatGPT foi lançado reacendeu o velho temor de que, em algum momento, perderemos os nossos empregos para as máquinas. Mas para o futurista em IA Zack Kass, a tecnologia pode provocar outras mudanças no mundo do trabalho, que podem levar a essas crises de identidade.

Kass, um dos primeiros profissionais da OpenAI (criadora do ChatGPT), onde atuou por 14 anos, acredita que as pessoas continuarão trabalhando. Mas em muitos casos, elas não poderão fazer o que gostam ou no que foram formadas, porque a função será realizada por um robô. E aí nasce o problema!

“Nós conectamos intrinsicamente nossa identidade de trabalho à nossa identidade pessoal”, explica o executivo, que esteve no Brasil na semana passada para participar do VTEX Day, um dos maiores eventos de e-commerce do mundo. Segundo ele, mesmo que as necessidades das pessoas sejam atendidas, não poderem trabalhar com o que desejam pode lhes causar fortes reações. “Esse é meu maior medo”, disse.

Se nada for feito, essa previsão sombria pode mesmo se concretizar. Diante dessa perspectiva, os profissionais experientes e os recém-formados devem fazer os movimentos certos para não ficarem desempregados ou para não serem jogados nessa crise profissional e de identidade, o que seria ainda mais grave.

Mas quais são esses movimentos? Como podemos nos proteger? Qual o papel das empresas desenvolvedoras e até dos governos? É sobre isso que falo nesse episódio.

IA pode atrapalhar seu sonho profissional

Pílula de cultura digital para começarmos bem a semana 😊
Como de qualquer ferramenta, os resultados da inteligência artificial dependem das ações de quem a utiliza. Quem faz usos positivos dela produz bons frutos. Já os de má índole podem causar danos profundos.

Com seu poder disruptivo, essas consequências podem ser críticas! Esse foi o tema de um dos principais painéis do Web Summit Rio, um dos mais importantes eventos globais de tecnologia, mídia e inovação, que aconteceu no Rio de Janeiro, de terça a quinta da semana passada.

Um dos problemas deriva de a IA oferecer mecanismos para se alterar a realidade ou criar mentiras convincentes. Isso abre muitas possibilidade de golpes, ameaçando indivíduos, empresas e sociedades inteiras, como no caso de eleições. “Se a confiança for perdida, ficará muito difícil continuar inovando em coisas boas na IA”, disse no painel o estoniano Kaarel Kotkas, CEO da empresa de segurança Veriff.

Felizmente a mesma IA oferece recursos para combater essas ameaças. “A gente precisa pensar que seremos cada vez mais uma sociedade baseada em tecnologia”, me disse no evento Cesar Gon, CEO da empresa de tecnologia CI&T. “É importante acompanhar para onde a tecnologia vai e criar limites, mas garantindo que a ciência e a tecnologia continuem evoluindo para resolver os problemas humanos”, explicou, ressaltando que a IA deve sempre estar alinhada com os interesses da sociedade.

Diante de tanto poder computacional, chega a ser irônico que a maioria dos golpes não envolva invasão de sistemas. O elo mais frágil na segurança continua sendo o ser humano, enganado para que repasse informações pessoais (como senhas) ou realize ações prejudiciais. O que muda nessa engenharia social com a IA é que os procedimentos para confundir as pessoas se tornam mais convincentes, difíceis de se identificar, e agora atingem muita gente, para aumentar a chance de fazerem suas vítimas.

Como podemos nos proteger disso tudo? É sobre isso que falo nesse episódio.

E você, como usa a IA com segurança e produtividade?

IA pode deixar o mundo mais seguro e perigoso

Pílula de cultura digital para começarmos bem a semana 😊
A Secretaria da Educação do Estado de São Paulo confirmou que pretende usar o ChatGPT para “melhorar” as aulas que distribui para os professores das escolas estaduais paulistas.

Apesar de garantir que todo o conteúdo gerado pela máquina será revisado por sua equipe de professores curriculistas, esse uso da inteligência artificial abriu uma grande discussão sobre uma possível redução no papel do professor e nos riscos vindos de uma tecnologia reconhecidamente ainda falha.

Segundo a Secretaria, a IA fará suas propostas a partir do material já existente, criado pelos curriculistas para alunos do Ensino Fundamental II (do 6º ao 9º ano) e do Ensino Médio. O ChatGPT deve propor ampliações no conteúdo e criação de exercícios.

Professores criticam o material do governo, que consideram limitante. Também possui erros gramaticais, de formatação e conceituais. Como exemplo, uma aula afirmava que a Lei Áurea teria sido assinada em 1888 por D. Pedro II (foi pela sua filha, a princesa Isabel), enquanto outra dizia que a cidade de São Paulo possuía praias.

O temor é que o ChatGPT agrave o problema. Assim como outras plataformas de IA generativa, ele é programado para sempre dizer algo, mesmo que não saiba o quê. Nesse caso, pode responder verdadeiras barbaridades, mas, como faz isso com grande “convicção”, muita gente acredita nas suas informações erradas. São as chamadas “alucinações”.

Caberá aos professores curriculistas não apenas ajustar pedagogicamente a produção do ChatGPT, como também verificar se o que ele diz está correto e se não fere direitos autorais. Fica a pergunta se eles terão recursos e disposição para fazer isso. Caso contrário, a inteligência artificial poderá deseducar, ao invés de melhorar aulas.

Esse é o mais recente episódio da digitalização das escolas, bandeira de Feder. Apesar de achar que a IA pode ajudar muito os professores, uma implantação afobada pode ter efeitos nefastos na educação;

É sobre isso que falo nesse episódio. E você, acha que a IA deve preparar aulas?

ChatGPT invade a educação

Pílula de cultura digital para começarmos bem a semana 😊
Será que estamos pedindo demais da inteligência artificial?

Muito além do aquecido debate sobre legislações que organizem o uso da IA, começa a se formar um consenso sobre alguns valores em torno dessa tecnologia, como uso e desenvolvimento responsáveis, decisões rastreáveis e dois conceitos que se confundem e são pouco conhecidos: transparência e explicabilidade. Todos são essenciais para que os impactos da IA sejam positivos. Mas a sociedade está exigindo algo dessas plataformas que ela mesmo não pratica.

Se fizermos uma autoanálise, perceberemos que conscientemente não somos transparentes em muitas coisas de nosso cotidiano, assim como tampouco são empresas e instituições. Como exemplo, uma das maiores falhas das redes sociais, que levou à insana polarização da sociedade e a problemas de saúde mental de seus usuários, é a completa falta de transparência das decisões de seus algoritmos.

Diante disso, alguns especialistas afirmam que exigir esse nível de responsabilidade e transparência das plataformas de IA é um exagero e até, de certa forma, hipocrisia.

Talvez... Mas o fato de cultivarmos esses maus hábitos não pode ser usado para desestimular a busca desses objetivos nessa tecnologia com potencial de ofuscar a transformação que as redes sociais fizeram, que, por sua vez, deixou pequena as mudanças promovidas pela mídia tradicional anteriormente.

Se não tomarmos as devidas precauções, a inteligência artificial pode causar graves consequências para a humanidade pelas ações de grupos que buscam o poder de forma inconsequente. Por isso, ela precisa ser organizada para florescer como uma tecnologia que ampliará nossas capacidades criativas e de produção.

Sem esses pilares éticos, sequer confiaremos no que a IA nos disser, e então tudo irá por água abaixo.

Mas afinal, por que rastreabilidade, transparência e explicabilidade são tão importantes para a inteligência artificial? E o que elas significam? É sobre isso que falo nesse episódio.

A sociedade é hipócrita com a IA?

Jornalista (preferencialmente digital), educador (preferencialmente digital), trabalhando para tornar o mundo um lugar melhor

As pessoas podem emburrecer a inteligência artificial

Paulo Silvestre

Related tracks