Segurança da IA

Créditos: Imagem fornecida; Autor: Gerada por IA / Stephen Whitelaw;

A segurança da IA centra-se em impedir que os sistemas de IA causem danos. Isto inclui a segurança técnica, como a redução de erros e a prevenção do uso indevido, e a segurança social, como evitar a discriminação ou perturbações económicas. A segurança da IA torna-se mais importante à medida que os sistemas se tornam mais potentes, mais amplamente utilizados e mais autónomos. A questão não é apenas «Será que conseguimos construí-lo?», mas sim «Será que conseguimos torná-lo fiável, controlado e benéfico?»

Viés algorítmico

Créditos: Imagem fornecida; Autor: Gerada por IA / Stephen Whitelaw;

O viés algorítmico é a injustiça ou distorção causada pela forma como um algoritmo é concebido, treinado ou utilizado. Pode refletir dados tendenciosos, pressupostos errados ou objetivos inadequados. Por exemplo, um sistema de avaliação de crédito pode prejudicar determinados grupos se os dados históricos refletirem um acesso desigual ao crédito. O viés algorítmico é importante porque as decisões automatizadas podem afetar o emprego, os cuidados de saúde, a polícia, as finanças e a educação.

Antropic

Créditos: Imagem fornecida; Autor: Gerada por IA / Stephen Whitelaw;

A Anthropic é uma empresa de investigação e tecnologia de IA fundada em 2021 pelos irmãos Dario Amodei e Daniela Amodei, mais conhecidos pelo desenvolvimento da família de assistentes de IA «Claude». A Anthropic é especializada na criação de sistemas de IA poderosos, com forte ênfase na segurança, fiabilidade, transparência e desenvolvimento responsável da IA.

Rede Neural Artificial

Créditos: Imagem fornecida; Autor: Gerada por IA / Stephen Whitelaw;

Uma rede neural artificial é um tipo de modelo de IA vagamente inspirado no cérebro. É composta por camadas de «neurónios» artificiais interligados que processam informação. As redes neurais são especialmente eficazes na identificação de padrões em grandes quantidades de dados. São utilizadas no reconhecimento de imagens, no reconhecimento de voz, na tradução, em sistemas de recomendação e na IA generativa. Apesar do nome, não são cérebros reais e não pensam como os seres humanos.

ASI – Superinteligência Artificial

Créditos: Imagem fornecida; Autor: Gerada por IA / Stephen Whitelaw;

A Superinteligência Artificial (ASI) é uma forma hipotética futura de IA que ultrapassaria a inteligência humana em quase todos os domínios. Embora ainda não exista, muitos especialistas acreditam que poderá tornar-se uma das tecnologias mais poderosas alguma vez criadas, trazendo tanto enormes oportunidades como riscos significativos.