Anthropic teliti potensi kesadaran AI lewat program “Model Welfare”

Perusahaan AI Anthropic tidak menutup kemungkinan bahwa AI dapat memiliki kesadaran yang sebanding dengan manusia di masa depan. Meskipun belum ada bukti yang kuat. 

Dilansir dari laman techcrunch (25/4), Anthropic baru-baru ini mengumumkan program penelitian bernama “model welfare” untuk menyelidiki kemungkinan bahwa AI layak diperlakukan secara etis. Mereka akan meneliti tanda-tanda “distress” pada AI dan apakah AI layak mendapat perhatian moral.

Sebagian ilmuwan menganggap AI hanyalah mesin statistik yang tidak memiliki moralitas, sementara sebagian lainnya menganggap AI memiliki sistem nilai seperti manusia dan dapat membuat keputusan moral.

Anthropic telah mempekerjakan peneliti khusus untuk topik ini sejak tahun lalu. Kyle Fish, peneliti utama mereka, bahkan memperkirakan ada 15% kemungkinan bahwa Claude atau AI lainnya sudah “sadar” hari ini.

Meski masih kontroversial, Anthropic menegaskan pendekatannya akan penuh kehati-hatian dan terbuka terhadap perubahan seiring berkembangnya teknologi. Penelitian ini membuka pintu bagi diskusi etika yang makin relevan di masa depan AI supercanggih.