Pular para o conteúdo principal

Quando o prompt vira receita de quitanda

Imagem
Por

Outro dia, conversando com Vanessa uma grande amiga que a profissão me deu, ela soltou uma frase que me fez parar:  

“IA é burra.”  

Segundo ela, é só um monte de algoritmos que conecta informações que nós fornecemos. Nada mais. Na hora, ri. Mas depois, fiquei pensando. A inteligência artificial pode até não ter consciência, mas tem algo que a torna poderosa: ela facilita a vida.

Lembra quando você ia visitar alguém, tomava um café, comia uma quitanda[3] deliciosa e saía de lá com a receita anotada num papel qualquer?  

#ParaTodos - Contém fundo branco que parece uma mesa com um tablet, grãoes cafés espalhados na mesa, um óculos, uma xícara de café e sete docinhos coloridos em um prato. 

Hoje, eu converso com amigos e, no meio da conversa, percebo que algo que eles estão fazendo pode ser automatizado.  Então, mando um prompt.  Simples. Direto. E pronto: uma tarefa repetitiva vira uma solução rápida. O prompt virou a nova receita de quitanda.

Mas aí vem o alerta — e ele é sério: Se a IA é feita por nós, ela carrega nossos vieses.

E isso é verdade.  Viés é aquela tendência inconsciente que molda nossas decisões e ações conscientes. E quando isso entra num algoritmo, o impacto pode ser devastador.

Em 2014, a Amazon criou uma IA para ajudar no recrutamento. Ela foi alimentada com dados internos de 10 anos. Resultado? Começou a descartar currículos de mulheres. Ignorava competências essenciais, como domínio de linguagens de programação.  E, com o tempo, passou a selecionar candidatos sem perfil algum. A ferramenta foi desativada. Mas o alerta ficou.[1]

O "Tay" é um chatbot IA da Microsoft criado para interagir com jovens no Twitter. Os usuários começaram a atacar o bot com mensagens misóginas, racistas e anti-semitas. "Tay" aprendeu em tempo real com as iterações e começou a postar tweets extremamente ofensivos. A empresa desativou o chatbot e notou os perigos de se lançar um IA sem controles de segurança e moderação. [2]

A IA é, sim, um diferencial competitivo. Ela reduz gargalos, automatiza tarefas, evita retrabalho. Mas se não for testada, auditada e construída com responsabilidade, ela deixa de ser solução — e vira problema.

No fim das contas, a inteligência artificial não é burra. Ela é reflexo de quem a constrói.  E se queremos que ela seja justa, ética e útil, precisamos olhar para dentro — e corrigir nossos próprios vieses. Portanto, como a IA agiliza as atividades do nosso dia a dia, podemos usar o tempo livre com amigos, café e com uma quitanda bem gostosa feita em casa. Que trem bom!

Fontes e Observações:
[1] - https://www.tecmundo.com.br/software/135062-ia-amazon-usada-analise-curriculos-discriminava-mulheres.htm
[2] - https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist
[3] - Quitanda - Na etimologia é uma tem origem na palavra quimbunda (língua de Angola) "kitanda", que significa feira, mercado ou estrado onde se expõem mercadorias. Em Minas Gerais é tudo que é assado e acompanhado por café. Exemplo: pão de queijo, bolos, roscas, etc.

Comentários

Postar um comentário

Postagens mais visitadas deste blog

Entre ancestralidade e autoconhecimento

Por
  Olá, pessoas! Como vocês têm passado? Eu sigo na busca pela rotina perfeita — e vocês? Sempre carreguei comigo uma gratidão imensa pela minha ancestralidade (afinal, sou fruto das pessoas que os tubarões não comeram — referência ao livro Escravidão , de Laurentino Gomes). Ao mesmo tempo, sempre tive um patriotismo muito forte e um prazer enorme em ser brasileira, desejando o melhor para o Brasil e para os brasileiros. Quando surgiram os testes de DNA que revelam a cadeia ancestral por países, achei que não valia a pena investir em algo que eu já “sabia”: sou fruto da diáspora africana, do sequestro dos meus ancestrais. Não faria sentido pagar para confirmar isso. Mas dois motivos mudaram minha visão: 1. Um amigo fez o teste e descobriu que sua maior ancestralidade vinha do leste da África — Moçambique, Quênia, Tanzânia. Eu nunca tinha imaginado essa rota, sempre associei os negros brasileiros da diáspora ao oeste africano (Angola, Nigéria, Benin, Senegal, Togo). Essa descoberta d...
Postar um comentário
Read more »

Presente para Gláucia - escrito por Roberto Vaver

Por
  Apesar de vir de uma família de pessoas brancas, convivi com pessoas negras desde a minha infância, mas pode ficar tranquilo que eu não partirei para o famoso clichê “não sou racista, até tenho amigos negros”, porque tenho consciência que a proximidade pessoal com pessoas negras não elimina o racismo que existe em nossa sociedade e que todos nós carregamos, mas o fato é que sempre convivi com pessoas negras, aprendendo a respeitar e a admirar estas pessoas, por serem pessoas dignas de respeito e admiração, independentes da cor da sua pele. A minha mãe sempre cobrou de mim que pedisse a benção a algumas pessoas negras que ela tinha em alta consideração e respeito, uma delas, inclusive, ela me ensinou a chamar de “vó” desde pequeno (“vó Dulce”), porque ela a considerava como uma mãe, por tê-la ajudado muito quando do nascimento de meus irmãos mais velhos e pela admiração que tinha por ela. Agora a Gláucia me pediu (como presente de aniversário....) que escrevesse um texto sobre c...
Postar um comentário
Read more »

Entre Café, Dados, Prosas e Decisões Cotidianas

Por
Afim de um café e uma prosa sobre gêneros? Escrever sobre desigualdade de gênero quando se tem lugar de fala me gera bastante receio de parecer vitimista. Mas aqui, o objetivo é outro: expor a realidade com honestidade e buscar caminhos possíveis para transformá-la. Sou mãe de um casal de adolescentes incríveis, e a vida me ensinou que educar com consciência de gênero é essencial. Não se trata de reforçar estereótipos, mas de reconhecer que meninos e meninas enfrentam desafios diferentes — e precisam de orientações específicas para lidar com o mundo e com os relacionamentos. Por exemplo, com meu filho, a conversa sobre segurança começa com a violência urbana, que estatisticamente atinge mais os homens. Já nos relacionamentos, ensino que ele deve tratar as meninas como gostaria que tratassem sua irmã. Falo sobre reciprocidade, respeito e limites, e que amor não combina com abuso — nem como vítima, nem como autor. Com minha filha, a segurança aparece desde cedo: na escolha da roupa...
Postar um comentário
Read more »