Network
Nilai-nilai itu termasuk "memilih tanggapan yang paling mematahkan semangat dan menentang penyiksaan, perbudakan, kekejaman, dan perlakuan tidak manusiawi atau merendahkan martabat," kata Anthropic dalam sebuah posting blog pada hari Selasa.
Claude juga telah diberitahu untuk memilih tanggapan yang paling tidak dianggap menyinggung tradisi budaya non-barat mana pun.
Baca Juga: Gempa Bumi Magnitudo 5,4 Guncang Selat Sunda Banten, Guncangan Dirasakan Sampai Kota Tangerang
Dalam sebuah wawancara, salah satu pendiri Anthropic Jack Clark mengatakan bahwa konstitusi sistem dapat dimodifikasi.
Ini dengan tujuan untuk melakukan tindakan penyeimbangan antara memberikan jawaban yang bermanfaat sementara juga tidak ofensif.
"Dalam beberapa bulan, saya memperkirakan bahwa politisi akan cukup fokus pada nilai-nilai dari sistem AI yang berbeda, dan pendekatan seperti AI konstitusional akan membantu diskusi itu karena kita hanya dapat menuliskan nilai-nilainya," kata Clark.***
