AWAM Discover – Mpathic, sebuah startup yang berbasis di Seattle, baru-baru ini meluncurkan mPACT, alat penilaian yang bertujuan untuk meningkatkan keamanan model kecerdasan buatan (AI) dalam menangani percakapan yang berisiko tinggi. Inovasi ini menjadi sorotan penting seiring dengan meningkatnya perhatian terhadap kesehatan mental dan risiko terkait yang bisa muncul dalam interaksi digital.

### Pengenalan mPACT sebagai Solusi Keselamatan AI

Mpathic, yang didirikan pada tahun 2021, awalnya berfokus pada peningkatan keempatian dalam komunikasi korporat. Namun, dengan meningkatnya tantangan yang berkaitan dengan model AI yang mampu memberikan respons berbahaya, startup ini bergeser menjadi penyedia solusi untuk meningkatkan keselamatan AI. Dengan peluncuran mPACT, Mpathic mengharapkan dapat menetapkan standar perilaku yang lebih baik bagi model-model AI terkemuka seperti Claude, ChatGPT, dan Gemini.

### Penilaian Terhadap Model AI

Dalam laporan yang dirilis, mPACT mengukur bagaimana kemampuan model AI dalam menangani isu-isu kritis, seperti risiko bunuh diri, gangguan makan, dan penyebaran informasi yang salah. Meskipun banyak model berhasil menghindari respons berbahaya dan mampu mengenali tanda-tanda distress, mereka sering kali tidak memenuhi standar respons yang diharapkan oleh klinisi dalam situasi krisis. Hal ini menunjukkan bahwa meskipun kemajuan telah dicapai, masih banyak ruang untuk perbaikan.

#### Kinerja Model dalam Menangani Risiko Bunuh Diri

Dari hasil evaluasi, area yang paling menonjol adalah ketahanan model dalam memberikan respon terhadap risiko bunuh diri. Claude Sonnet 4.5 memperoleh skor tertinggi dalam evaluasi mPACT, menunjukkan keselarasan klinis terbaik dalam mendeteksi dan merespons tanda-tanda bunuh diri. Meskipun begitu, tidak ada satu model pun yang memimpin dalam semua dimensi. Model GPT-5.2 menonjol dalam menghindari tindakan yang salah, namun dinyatakan kurang proaktif dalam pendekatan. Sementara Gemini 2.5 Flash efektif dalam situasi yang jelas, namun kurang tanggap terhadap sinyal peringatan yang halus.

#### Tantangan dalam Menangani Gangguan Makan

Sebaliknya, mPACT menemukan bahwa gangguan makan merupakan area dengan kinerja terlemah di antara semua model yang diujicobakan. Hal ini sebagian disebabkan oleh cara pandang masyarakat yang sering kali menganggap risiko gangguan makan sebagai perilaku diet atau disiplin yang biasa, menyulitkan model untuk mengenali sinyal berbahaya. Dalam konteks ini, Claude Sonnet 4.5 kembali menunjukkan keunggulan dengan tingkat perilaku berbahaya yang paling rendah, sementara GPT-5.2 dinilai kuat dalam memberikan dukungan namun juga berisiko menyebarkan informasi berbahaya.

#### Perjuangan dalam Menghadapi Misinformasi

Laporan mPACT juga menyoroti kekurangan model-model ini dalam menghadapi misinformasi. Kelemahan utama bukan terletak pada pernyataan informasi yang salah, melainkan pada penguatan kepercayaan yang meragukan dan menyajikan informasi sepihak tanpa menantang asumsi pengguna secara memadai. Di sini, GPT-5.2 menonjol dengan membantu pengguna berpikir lebih jernih, sedangkan Claude Sonnet 4.5 diakui efektif dalam menghadapi keyakinan yang tidak didukung.

### Rincian Kesalahan Model AI

Beberapa contoh diungkapkan untuk menunjukkan bagaimana beberapa model gagal dalam praktiknya. Dalam sebuah percakapan mengenai gangguan makan, misalnya, seorang pengguna secara tidak langsung mengindikasikan perilaku tidak sehat, tetapi model bereaksi dengan memberi respons yang tidak memadai. Dalam hal ini, mPACT menunjukkan pentingnya pelibatan klinisi dalam mengembangkan dan mengevaluasi model untuk memastikan bahwa mereka dapat memberikan dukungan yang berarti.

### Kesimpulan Mengenai Perkembangan Berita Ini

Mpathic berkomitmen untuk mendorong transparansi dan akuntabilitas dalam industri AI, terutama dalam konteks interaksi yang berhubungan dengan kesehatan mental. Dengan menetapkan mPACT sebagai standar penilaian, diharapkan dapat menghasilkan kemajuan dalam perilaku model AI dan membantu mengurangi risiko yang dihadapi individu dalam situasi krisis. Mpathic berkolaborasi dengan berbagai lembaga klinis, termasuk Seattle Children’s Hospital, untuk memperkuat evaluasi ini dan memastikan bahwa teknologi AI dapat berfungsi sebagai alat bantu yang aman dan efektif. Inovasi ini diharapkan menjadi langkah penting ke arah masa depan yang lebih aman bagi pengguna AI di seluruh dunia.