WARTABUANA – Robot adalah sebuah mesin, dan harus mengikuti apa yang manusia perintahkan padanya.
Namun, terkadang, apa yang manusia perintahkan justru dapat memiliki dampak buruk, baik pada sang pemberi perintah ataupun untuk manusia lain. Contoh sederhananya adalah seorang murid yang meminta robot untuk mengerjakan tugas sekolahnya.
Seperti yang disebutkan oleh TIME, ada banyak kasus untuk robot sebaiknya menolak perintah yang
diberikan padanya, jika perintah tersebut dapat berakibat buruk, meski perintah yang diberikan bukanlah perintah yang bermaksud jahat.
Misalnya, sebuah robot mobil diperintahkan untuk berjalan mundur sementara ada anjing di
belakangnya. Atau sebuah robot asisten dapur diperintahkan untuk berjalan ke depan saat ia memegang pisau dan berdiri di belakang seorang koki. Kedua perintah tersebut terkesan sederhana, tapi ia dapat berujung pada hal yang tidak diinginkan.
Karena itulah, sebuah robot seharusnya dapat memperkirakan akibat buruk yang terjadi jika mereka melakukan sebuah perintah yang diberikan padanya.
HRI (Human Robot Interaction) Lab, berusaha untuk mengembangkan kontrol robotik sehingga sebuah robot dapat mengambil kesimpulan berdasarkan perintah yang diberikan. Dengan begitu, sebuah robot dapat menentukan apakah ia harus mematuhi perintah yang diberikan atau menolaknya.
Satu tantangan yang ada adalah untuk membuat robot dapat menentukan masalah yang mungkin muncul dari mematuhi perintah seorang manusia. Konteks memiliki peran penting dalam hal ini.
Untuk mengetahui masalah apa yang mungkin terjadi, maka sebuah robot harus mengetahui pengetahuan umum. Sebuah robot tidak hanya harus dapat menebak hasil yang mungkin terjadi jika ia mematuhi sebuah perintah, tapi juga alasan mengapa seorang manusia memberikan perintah tersebut.
Robot harus dapat memperkirakan berbagai hasil dari sebuah tindakan dan membandingkan hasil yang mungkin terjadi dengan prinsip moral dan sosial sebelum menentukan hasil manakah yang paling diinginkan atau tidak melanggar hukum.
Pada dasarnya, robot seharusnya tidak pernah melakukan kegiatan ilegal atau kegiatan legal yang menghasilkan akibat yang tidak diinginkan.[]
