As promessas (e os riscos) de um “ChatGPT da medicina”
Na medicina atual, as instituições e profissionais de saúde precisam andar lado a lado com as empresas de tecnologia. São elas as responsáveis pelos maiores avanços em áreas como ciência de dados (ou “Big Data”), inteligência artificial (IA), machine learning, redes 5G e muitas outras, que representam a ponta de lança da inovação no ambiente digital.
São essas novas tecnologias que estão revolucionando o cotidiano das instituições de saúde, simplificando ou automatizando processos burocráticos e repetitivos, melhorando a eficiência da gestão hospitalar e, principalmente, dotando médicos e demais profissionais de saúde de informações muito mais precisas e abrangentes sobre cada paciente, as quais podem subsidiar diagnósticos e tratamentos mais assertivos e eficazes.
Não seria exagero dizer que a relação entre saúde e tecnologia digital já é simbiótica. Agora, mais um capítulo na história dessa relação parece estar sendo escrito pelo Google.
A gigante do Vale do Silício iniciou a fase de testes do Med-PaLM2, seu sistema de IA generativa voltado especificamente para a área de saúde. A tecnologia, desenvolvida há mais de um ano, foi liberada para um grupo restrito de profissionais e instituições de saúde, que poderão experimentá-la e testar seu alcance, além, é claro, de identificar e reportar eventuais problemas.
O Med-PaLM2 é um LLM (large language model, ou “modelo de linguagem abrangente”, em tradução livre) e funciona basicamente como o ChatGPT, sistema de IA generativa que ganhou manchetes em todo o mundo. Em ambos os casos, o usuário digita questões ou requer tarefas ao sistema, que, numa fração de segundo, consulta sua base de dados para elaborar uma solução.
A vantagem do Med-PaLM2 está no fato de que ele é ajustado especificamente para compreender e “falar” a linguagem técnica da medicina, bem como é conectado a uma base de dados mais restrita à área de saúde. À diferença do ChatGPT, o Med-PaLM2 é uma inteligência artificial “especialista”, a qual, em simulações realizadas internamente pelo Google, foi a primeira do tipo a obter mais de 85% de precisão em suas respostas.
Mas para quê exatamente serve essa ferramenta? Em primeiro lugar, ela pode consultar toda a literatura médica em busca de uma informação específica requerida pelo usuário. Um médico pode, por exemplo, solicitar dados referentes à eficácia de uma droga, obter uma lista de sintomas associados a determinada condição ou ainda buscar casos similares ao de algum paciente que já tenham sido descritos na literatura médica.
Em todos esses casos, a IA pode encontrar respostas que, caso contrário, demandariam conhecimento de todas as publicações científicas do mundo disponíveis na internet – o que, por óbvio, é impossível a qualquer ser humano. Trata-se de um exemplo clássico do que, no atual estágio de evolução tecnológica, a IA faz de melhor: acessar, organizar e compreender um volume gigantesco de informações, em busca de respostas específicas ou padrões antes invisíveis.
O Med-PaLM2 também pode auxiliar profissionais de saúde na tomada de decisão sobre casos complexos, analisando resultados de exames, incluindo os de imagem, e oferecendo sugestões de diagnóstico. Por fim, espera-se que essa tecnologia auxilie também em processos mais burocráticos e objetivos, como catalogação de documentos ou mesmo o preenchimento de fichas de pacientes.
As possibilidades são quase ilimitadas, mas isso não significa que a implementação de um sistema como o Med-PaLM2 seja livre de riscos. É salutar que tecnologias do tipo ainda sejam usadas de maneira experimental, no contexto de uma fase de testes, pois ainda é preciso aparar muitas arestas.
Os dispositivos para proteção dos dados e da privacidade dos pacientes ainda precisam ser amadurecidos, inclusive em termos de legislação. Outro ponto cego, destacado, aliás, pelo radiologista e professor da Universidade Yale Howard Forman, tem a ver com responsabilização: no caso de um eventual erro médico, baseado em informações incorretas fornecidas pelo sistema de IA, sobre qual pessoal ou instituição recairá a culpa?
Isso nos leva a um terceiro ponto de atenção, a saber, a dificuldade em garantir que a base de dados consultada pelo Med-PaLM2 seja, de fato, confiável. Cresce, afinal, uma justa preocupação da sociedade com a transparência dessas novas ferramentas de IA, especificamente com relação à qualidade e diversidade das informações por elas consultadas.
Questionamentos desse tipo não são obstáculos ao avanço tecnológico. Muito pelo contrário, são eles que permitem o desenvolvimento seguro de quaisquer ferramentas inovadoras. Com esse senso de responsabilidade, dando atenção às demandas e preocupações dos profissionais de saúde e demais especialistas, recursos como o Med-PaLM2 prenunciam uma nova era da medicina, mais digital, mais eficiente e mais acessível a todos.
