AI alignment adalah upaya membuat perilaku model AI sesuai dengan nilai dan maksud manusia yang menciptakannya — memastikan model 'menginginkan' hal yang sama dengan penggunanya, bukan sekadar patuh secara literal pada instruksi.
Kenapa Alignment dan Safety Berbeda
AI safety lebih luas: mencakup semua upaya mencegah AI menyebabkan kerugian, termasuk hal teknis seperti keamanan siber sistemnya, robustness terhadap serangan adversarial, dan kegagalan infrastruktur — alignment adalah salah satu bagian dari safety, bukan sinonimnya.
Model bisa jadi 'aman' dalam artian tidak diretas atau disalahgunakan, tapi tetap tidak 'aligned' kalau tujuannya sendiri menyimpang dari yang dimaksud pembuatnya — dua masalah berbeda yang butuh solusi berbeda pula.
Kenapa Kedua Istilah Ini Penting Dipahami Terpisah
Riset alignment berfokus pada masalah filosofis dan teknis soal bagaimana menspesifikasikan nilai manusia ke sistem yang belajar sendiri, sementara riset safety lebih dekat ke rekayasa sistem tradisional — memahami perbedaannya membantu publik menilai klaim perusahaan AI secara lebih presisi.