Dunia kecerdasan buatan atau AI sering kali dianggap sebagai ranah eksklusif bagi para pengembang yang mahir menyusun kode pemrograman. Namun, sosok Amanda Askell hadir mematahkan anggapan tersebut dengan membuktikan peran krusial filsafat dalam teknologi.
Sebagai seorang filsuf sekaligus peneliti AI, Askell menunjukkan bahwa pemikiran kritis sangat dibutuhkan untuk membentuk masa depan teknologi. Saat ini, ia menjadi bagian penting dari tim Anthropic, perusahaan yang membidani asisten AI bernama Claude.
Di Anthropic, tugas utama Askell adalah melatih model AI agar memiliki karakter yang baik dan senantiasa menjunjung kejujuran. Fokus ini sangat penting terutama saat sistem harus menjawab pertanyaan sulit atau sensitif dari pengguna.
Ia bersama timnya terus mengembangkan berbagai teknik pelatihan mutakhir bagi model AI. Tujuannya agar teknologi yang lebih canggih di masa depan tetap memiliki integritas dan perilaku yang dapat dipertanggungjawabkan.
Transformasi dari Dunia Filsafat ke Teknologi AI
Perjalanan akademis Askell dimulai dengan mendalami bidang seni rupa dan filsafat di Duncan of Jordanstone College of Art & Design pada tahun 2005 hingga 2009. Setelah itu, ia melanjutkan pendidikan pascasarjana di University of Oxford dan meraih gelar BPhil pada 2011.
Ketertarikannya pada pemikiran mendalam membawanya menempuh studi doktoral di New York University hingga tahun 2018. Dalam penelitiannya, ia fokus pada topik "infinite ethics" atau etika tak terhingga yang menjadi landasan pemikirannya.
Karya-karya tulisnya banyak mengupas tentang teori pengambilan keputusan, etika, serta epistemologi formal. Fondasi pendidikan inilah yang kemudian ia gunakan untuk merancang perilaku sistem kecerdasan buatan agar lebih manusiawi.
Rekam Jejak Karier di OpenAI hingga Anthropic
Minatnya pada titik temu antara teknologi dan filsafat membawa Askell bergabung dengan OpenAI pada periode 2018 hingga 2021. Di lembaga riset pengembang ChatGPT tersebut, ia berperan aktif sebagai peneliti keamanan AI.
Fokus studinya selama di OpenAI adalah mengenai penyelarasan atau alignment sistem AI. Bidang ini sangat vital untuk memastikan bahwa kecerdasan buatan tetap bertindak sesuai dengan nilai-nilai luhur kemanusiaan.
Berikut adalah beberapa kontribusi penting Amanda Askell dalam dunia riset kecerdasan buatan:
- Pengembangan Asisten Bahasa: Melalui penelitian "A general language assistant as a laboratory for alignment", ia mengeksplorasi cara membuat AI yang jujur dan tidak berbahaya.
- Red Teaming: Ia terlibat dalam simulasi untuk menemukan dan mengurangi potensi output AI yang bersifat menyerang atau mengandung unsur kekerasan.
- Konstitusi Claude: Menjadi penulis utama dokumen yang mengatur standar etika, keamanan, dan manfaat AI bagi pengguna di Anthropic.
Melalui riset-riset tersebut, Askell berupaya meminimalisir risiko penyalahgunaan teknologi. Ia memastikan bahwa model bahasa besar tidak hanya cerdas, tetapi juga aman bagi masyarakat luas.
Membangun Etika dalam Sistem Claude
Di Anthropic, Askell memegang peran sentral dalam merumuskan nilai-nilai dasar yang tertuang dalam Konstitusi Claude. Dokumen ini menjadi panduan agar sistem tetap beretika, aman, dan memberikan manfaat nyata bagi manusia.
Aspek keamanan dalam panduan ini memastikan bahwa AI tidak akan merusak mekanisme pengawasan manusia selama masa pengembangan. Sementara aspek etika menuntut Claude untuk selalu jujur dan menghindari tindakan yang merugikan pengguna.
Ringkasan profil dan pencapaian Amanda Askell dalam industri AI dapat dilihat pada tabel di bawah ini:
| Aspek | Detail Informasi |
|---|---|
| Latar Belakang Pendidikan | Doktor (PhD) Filsafat dari New York University (NYU) |
| Karier Sebelumnya | Peneliti Keamanan AI di OpenAI (2018-2021) |
| Jabatan Saat Ini | Peneliti AI di Anthropic (Pengembang Claude) |
| Pencapaian Bergengsi | Masuk dalam daftar TIME100 AI tahun 2024 |
Tabel di atas merangkum perjalanan Askell yang bertransformasi dari akademisi filsafat menjadi salah satu tokoh paling berpengaruh di industri teknologi dunia.
Kehadiran Askell mencerminkan perubahan paradigma di industri teknologi global saat ini. Perusahaan mulai menyadari bahwa membangun AI yang kuat tidak hanya membutuhkan kode teknis, tetapi juga keahlian etika.
Dedikasinya membawa pesan kuat bahwa kecanggihan teknologi harus selalu berjalan beriringan dengan nilai kemanusiaan. Dengan begitu, AI dapat benar-benar menjadi alat yang aman dan membantu kemajuan peradaban manusia.
