A inteligência artificial (IA) avançou consideravelmente, suscitando debates sobre seu potencial nível de consciência. No ano passado, Ilya Sutskever, cientista-chefe da OpenAI, sugeriu que redes avançadas de IA poderiam possuir um certo grau de consciência.
Para abordar essa questão, uma equipe de 19 especialistas de diversas áreas desenvolveu uma lista de verificação. Cumprir esses critérios poderia indicar que um sistema de IA tem uma alta probabilidade de ser consciente. Robert Long, um dos coautores e filósofo do Center for AI Safety, explicou a motivação por trás dessa pesquisa. Ele destacou que houve uma falta significativa de discussões detalhadas e ponderadas sobre a consciência em IA.
As implicações morais de um sistema de IA consciente são substanciais. Megan Peters, coautora e neurocientista da University of California, Irvine, expressou que rotular uma entidade como ‘consciente’ altera drasticamente a forma como a tratamos.
Robert Long também observou que as empresas que estão avançando na tecnologia de IA devem aumentar os esforços para avaliar seus modelos quanto à consciência. Elas também devem planejar possíveis desenvolvimentos de IA conscientes.
O desafio está em definir a consciência em IA. Para os propósitos do relatório, os pesquisadores se concentraram na ‘consciência fenomenal’, ou seja, na experiência subjetiva. Isso se refere à experiência de ser – como ser uma pessoa, um animal ou até mesmo um sistema de IA.
Várias teorias baseadas em neurociência descrevem a base biológica da consciência. Os autores utilizaram uma variedade dessas teorias para construir sua estrutura. Eles acreditam que os sistemas de IA que funcionam de acordo com várias teorias têm maior probabilidade de serem conscientes.
Anil Seth, Diretor do Centre for Consciousness Science da University of Sussex, concorda com essa abordagem teórica intensiva, mas observa a necessidade de teorias mais precisas sobre a consciência.
Para desenvolver seus critérios, os autores partiram de duas suposições cruciais. Primeiro, eles assumiram que a consciência está relacionada à forma como os sistemas processam informações, independentemente de serem compostos por neurônios ou chips de computador. Segundo, eles aplicaram teorias baseadas em neurociência da consciência para IA.
Com base nessas suposições, eles selecionaram seis teorias e identificaram uma lista de indicadores de consciência a partir delas. Uma das teorias – a teoria do espaço global de trabalho – sugere que humanos e outros animais usam múltiplos sistemas especializados para realizar tarefas cognitivas. Esses sistemas funcionam independentemente, mas compartilham informações integrando-se em um único sistema.
Os autores enfatizam que seu artigo não é a palavra final na avaliação da consciência em IA e convidam outros pesquisadores a refinar a metodologia. Eles já aplicaram os critérios a sistemas de IA existentes, como o ChatGPT. Embora o sistema apresente alguns indicadores associados à teoria do espaço global de trabalho, nenhum sistema de IA existente emergiu como um forte candidato à consciência até o momento.
