Ética da IA: curiosidades e quiz

A IA aprende com dados feitos por pessoas, então pode absorver vieses humanos. Uma ferramenta de contratação treinada com decisões passadas pode repetir injustiças do passado.

Ponto-chave
Dados diversos e conferidos com cuidado ajudam a reduzir o viés.

Alguns sistemas de IA são “caixas-pretas”: até quem os criou tem dificuldade para explicar uma única decisão. Isso importa quando a IA ajuda a decidir sobre empréstimos ou cuidados médicos.

Ponto-chave
A IA explicável é uma área inteira de pesquisa.

Os sistemas de IA muitas vezes precisam de muitos dados, que podem incluir informações pessoais. O reconhecimento facial em lugares públicos é debatido, porque pode rastrear pessoas sem o consentimento delas.

Ponto-chave
A Lei de IA da União Europeia, aprovada em 2024, restringe alguns usos do reconhecimento facial.

A IA pode automatizar algumas tarefas e criar outras novas. Muitos especialistas esperam que ela mude a maioria das profissões, em vez de simplesmente substituí-las.

Ponto-chave
As novas tecnologias vivem criando empregos que não existiam antes.

A pesquisa em segurança da IA tenta garantir que sistemas de IA poderosos façam o que as pessoas pretendem e evitem causar danos, mesmo em situações que seus criadores não previram.

Ponto-chave
Testar se uma IA pode ser mal usada antes do lançamento se chama red teaming.

Se um carro autônomo bate ou uma IA dá um conselho perigoso, quem é o responsável: o fabricante, o usuário ou o dono? As leis ainda estão tentando acompanhar.

Ponto-chave
Muitas regras dizem que um humano deve continuar no comando das grandes decisões.

Treinar e rodar grandes modelos de IA gasta muita eletricidade, além de água para resfriar os data centers. Tornar a IA mais eficiente é uma meta cada vez mais importante.

Ponto-chave
Modelos menores e eficientes conseguem fazer muitas tarefas com muito menos energia.