Porque confiamos mais na experiência dos especialistas do que na IA?

Quando procuramos orientação ou temos de tomar decisões importantes, recorremos frequentemente a especialistas para obter aconselhamento. Mas já alguma vez parou para pensar por que razão confiamos na experiência dos especialistas? Será simplesmente porque passaram por uma formação e educação rigorosas na sua área, ou haverá outros fatores em jogo? Se confiamos nos especialistas para nos fornecer recomendações precisas e fiáveis, por que razão não confiamos nos modelos de IA para fazer o mesmo?

Especialistas em quem confiamos

Uma possível razão pela qual confiamos nos especialistas é o facto de estarem associados a organizações ou instituições de renome. Estas organizações têm, geralmente, critérios rigorosos para os seus especialistas e exigem-lhes um elevado nível de responsabilidade. Isto significa que os especialistas associados a estas organizações terão, provavelmente, passado por processos de avaliação exigentes e têm uma reputação a preservar. Por outras palavras, os especialistas não respondem apenas perante si próprios, mas também perante as organizações que representam.

Quando recorremos a especialistas para obter ajuda ou orientação, geralmente não lhes pedimos que expliquem exatamente como chegaram às suas conclusões. Confiamos que o seu conhecimento e experiência os conduziram à resposta correta.

No entanto, existem também situações em que os especialistas podem não conseguir explicar totalmente como chegaram a uma determinada conclusão. É aquilo a que se chama “intuição de especialista” ou simplesmente “intuição”, baseada no profundo conhecimento e experiência do especialista na sua área, bem como na sua compreensão da situação específica em causa.

Por que razão não confiamos na IA?

Por outro lado, os modelos de IA não apresentam o mesmo nível de transparência e responsabilização. São frequentemente desenvolvidos e treinados por pequenas equipas de programadores, em vez de por instituições de maior dimensão com uma reputação a preservar, ou a qualidade dos resultados produzidos pelo modelo pode não estar diretamente associada à reputação da organização. Consequentemente, pode ser mais difícil para os utilizadores compreender como e por que razão um modelo de IA toma determinadas decisões ou formula certas recomendações. Além disso, pode ser difícil compreender o contexto — ou o conjunto de dados de entrada — com base no qual um modelo de IA faz uma previsão ou recomendação, uma vez que poderá não dispor do mesmo nível de compreensão e conhecimento da situação que um especialista humano.

sto pode tornar mais fácil confiar nos especialistas, uma vez que conseguimos identificar-nos com as suas perspetivas e compreender as suas motivações. Os modelos de IA, por outro lado, não têm motivações ou perspetivas pessoais da mesma forma. Esta ausência de uma ligação pessoal pode dificultar a confiança nos modelos de IA e nas suas recomendações.

Importa também considerar a questão dos enviesamentos nos modelos de IA. Estes modelos podem produzir resultados enviesados se os dados utilizados no seu treino forem, eles próprios, enviesados ou apresentarem falhas de alguma natureza. Isto pode conduzir a resultados injustos ou imprecisos, comprometendo ainda mais a confiança no modelo. Os especialistas, por outro lado, poderão estar menos sujeitos a este tipo específico de enviesamento, na medida em que possuem uma compreensão mais abrangente dos problemas em causa.

Conclusão

Embora os modelos de IA possam ser altamente eficazes e eficientes em determinados contextos, é importante refletir sobre as razões pelas quais podemos estar mais predispostos a confiar nos especialistas do que nos modelos de IA. Será simplesmente devido à formação e educação que receberam, ou existem outros fatores em jogo? Este é um tema que merece ser explorado e debatido, sobretudo porque é provável que a utilização de modelos de IA em diferentes áreas continue a aumentar nos próximos anos.

P.S.: Existe ainda uma questão importante, amplamente debatida e sem uma resposta inequívoca: a responsabilidade por recomendações incorretas. Enquanto um especialista é responsável pelas recomendações que formula, quando falamos de um modelo de IA, a atribuição de responsabilidade por recomendações inadequadas é bastante menos clara. A responsabilidade poderá estar repartida entre os programadores, quem decidiu implementar o modelo, a forma como os dados foram fornecidos ao modelo, entre outros intervenientes e fatores.

P.P.S.: Transparência total: este artigo foi escrito com a ajuda de um modelo de IA desenvolvido pela OpenAI (ChatGPT-3). A mensagem e a opinião transmitidas no artigo refletem as convicções do autor. Ao mesmo tempo, este exemplo demonstra o potencial da IA para apoiar os seres humanos. Em vez das muitas horas que seriam necessárias para escrever este artigo, com a ajuda desta ferramenta de IA foi possível concluí-lo em cerca de 1,5 horas.