O que é alinhamento de IA — a pesquisa em alinhamento de IA tem como objetivo ajustar sistemas de IA para que estejam de acordo com metas, preferências ou princípios éticos pretendidos pelos humanos. Quando um sistema de IA alcança os objetivos pretendidos, considera-se que o alinhamento foi concluído. Um sistema de IA mal alinhado pode ser competente em atingir alguns objetivos, mas não os objetivos pretendidos.
Recentemente, a OpenAI apresentou uma pesquisa intitulada 'Language models can explain neurons in language models' ('Modelos de linguagem podem explicar neurônios em modelos de linguagem'); de certa forma, esse estudo também pode ser entendido como significando que 'foi preciso IA para entender a IA'.
Indo além, parece que também será necessário usar IA para resolver o 'problema de alinhamento' que a OpenAI menciona com frequência.
Então, a IA pode julgar o 'alinhamento entre a IA e os humanos'? Se isso for possível, você gostaria que fosse assim?
1 comentários
Mesmo que faça isso, provavelmente haveria oposição de todo tipo de grupo social, cada um apresentando os mais variados motivos.