Esse foi o título, em tradução livre, de um artigo do The Verge. “Em 2012, o Memorial Sloan Kettering Cancer Center fechou uma parceria com a IBM para treinar o Watson para diagnosticar e tratar pacientes com câncer. Mas, de acordo com documentos datados de 2017, o supercomputador, frequentemente, dava maus conselhos, como um tratamento para um paciente com sangramento, que a droga poderia piorar ainda mais esse sangramento”.
Esse foi um trecho, em tradução livre, do artigo, porém logo depois, entre 2,349parênteses tem “um porta-voz do Memorial Sloan Kettering disse que foi para um paciente hipotético e não para um paciente real”.
Como tenho andado em várias empresas mostrar como a IA pode ajudá-las e, principalmente, como implementá-las aos processos com o mínimo de impacto negativo, percebo que geralmente as pessoas de dividem em dois grupos:
- Gestores: pensam que IA é mágica e que, finalmente, vão se livrar dos funcionários.
- Funcionários: que perderão os empregos porque o IA faz tudo, melhor e mais rápido.
Sinto decepcioná-los, mas não é bem assim. Conceitualmente, existem dois tipos de IA, que, de modo bem simplista são:
- Forte: uma IA que é capaz de fazer tudo como ter consciência e exterminar os seres humanos. Ou seja, IA que só existem em filmes.
- Fraca: é a IA que existe atualmente, por exemplo, a Deep Blue foi capaz de ganhar do Kasparov no xadrez, mas ela é incapaz de jogar damas. A máquina foi treinada para aprender um único domínio de conhecimento, que, no caso é xadrez, e seu aprendizado ‘morre’ nesse domínio.
Para se implementar com sucesso uma abordagem IA, é necessário envolver departamentos, setores ou pessoas que tenham domínio do conhecimento em questão.
A IA irá se desenvolver com base no conhecimento que foi ensinada. Se ela for ensinada de forma errada, irá errar com uma rapidez e precisão enorme. Esse processo de organizar as informações a serem ensinadas para a IA chama-se curadoria (uma nova profissão a caminho ;)
No caso do Memorial Sloan Kettering Cancer Center, para testar a ferramenta, ela foi treinada com dados falsos o que resultou em diagnósticos de acordo com as informações do “paciente”.
Ah, sei que é mimimi, mas IBM Watson não é um computador ;)
