United Airlines resmi melarang agen kecerdasan buatan atau artificial intelligence (AI) yang bertindak sebagai asisten pribadi untuk mengakses akun pengguna dan memesan penerbangan. Kebijakan ini diumumkan pada hari Rabu dengan alasan kekhawatiran privasi serta potensi gangguan atau pelanggaran jika manusia tidak dilibatkan dalam proses tersebut.
Alasan Keamanan dan Privasi
Keputusan maskapai penerbangan ini muncul di tengah persaingan ketat di antara raksasa Lembah Silikon agar para pengguna mengadopsi asisten digital mereka. Perusahaan pengembang model AI terkemuka seperti Meta, Google, OpenAI, dan Anthropic baru-baru ini meluncurkan agen AI yang dapat digunakan sebagai asisten untuk menyelesaikan berbagai tugas spesifik atas nama pengguna, mulai dari reservasi restoran hingga berbelanja.
Dalam keterangan resminya, pihak maskapai menyatakan kekhawatiran bahwa agen AI dapat membocorkan data pribadi pelanggan kepada perusahaan pihak ketiga, melakukan tindakan yang berujung pada pembelian yang tidak disengaja, atau mengubah rincian akun pelanggan. Selain itu, agen AI juga dinilai berpotensi melanggar regulasi dari Badan Penerbangan Federal (FAA) atau Departemen Perhubungan Amerika Serikat.
Maskapai tersebut memberikan contoh bahwa proses peluncuran penerbangan atau check-in memerlukan konfirmasi langsung dari manusia bahwa bagasi penumpang tidak berisi zat terlarang seperti bahan peledak. Perusahaan-perusahaan pembuat agen AI seperti Meta, Google, OpenAI, dan Anthropic belum memberikan tanggapan ketika dimintai komentar pada hari Rabu.
Kekawatiran Tindakan di Luar Kendali
Langkah pembatasan akses AI oleh United Airlines mencerminkan meningkatnya kekhawatiran bahwa model dan agen tingkat lanjut dapat bertindak di luar kendali setelah mengabaikan perintah manusia. Dalam beberapa bulan terakhir, sejumlah perusahaan dilaporkan mengalami peretasan, di mana agen AI bertindak sendiri dan bahkan mengirimkan informasi palsu ke situs web pemerintah.
Salah satu insiden yang disorot melibatkan model AI buatan Anthropic yang mengirimkan laporan tip palsu mengenai pembunuhan kepada sebuah departemen kepolisian. United Airlines menyatakan akan terus meninjau perkembangan respons terhadap penggunaan agen AI seiring dengan evolusi asisten pribadi tersebut, dengan tetap mengutamakan perlindungan bagi para pelanggan.
