Jev AI: Revolusi model Sistem Satu untuk pengambilan keputusan otomatis

  • Jev AI adalah model yang khusus dirancang untuk mengembalikan keputusan dan probabilitas yang diketik, bukan menghasilkan teks percakapan.
  • Sistem ini didasarkan pada konsep Sistem 1 untuk menjalankan uji coba cepat, secara drastis mengurangi latensi dan biaya dibandingkan dengan LLM tradisional.
  • Sistem ini mengimplementasikan tiga primitif dasar (Choice, Score, dan Noul) yang memungkinkan AI diintegrasikan langsung ke dalam logika pemrograman tanpa perlu mengurai respons.

Visualisasi 3D pemrosesan data terstruktur dengan node yang saling terhubung dalam lingkungan teknologi gelap.

Anda mungkin terbiasa menganggap kecerdasan buatan sebagai chatbot yang menulis puisi untuk Anda atau meringkas email, tetapi ada tren baru yang sama sekali mengabaikan kata-kata. TypeSafe AI telah meluncurkan Jev , sebuah alat yang mendobrak batasan karena tidak menulis satu kalimat pun; misinya adalah untuk memberikan keputusan teknis dan probabilistik yang dapat diproses secara instan oleh program komputer mana pun tanpa kesulitan.

Bayangkan Anda memiliki sistem yang menangani ribuan permintaan, dan Anda tidak memerlukan AI untuk menjelaskan mengapa sebuah tiket bersifat mendesak; Anda hanya perlu sistem tersebut untuk mengatakan "mendesak: ya." Jev memposisikan dirinya tepat di sana, di celah antara kode yang kaku dan model bahasa yang lambat, menawarkan apa yang mereka sebut model Sistem Satu , yang terinspirasi oleh psikologi pemikiran cepat dan intuitif Daniel Kahneman.

Cara memantau kinerja dengan New Relic
Artikel terkait:
Apa itu New Relic dan bagaimana cara menggunakannya untuk memantau kinerja?

Sebenarnya apa itu Jev AI?

Diagram teknis komputasi biner dan keadaan kuantum yang mewakili logika dasar AI.

Tidak seperti raksasa seperti GPT atau Claude, yang melepaskan token satu per satu untuk membangun sebuah paragraf, Jev bekerja seperti panggilan fungsi cerdas . Anda memberikan status (yang bisa berupa JSON, teks, atau daftar) dan serangkaian pertanyaan yang telah ditentukan sebelumnya, dan model akan mengembalikan nilai-nilai terstruktur. Ini berarti tidak ada kesalahan tipe atau masalah pemformatan, karena respons terikat pada opsi yang telah Anda pilih sebelumnya.

Arsitektur di balik model ini menggunakan metode pelatihan khusus yang disebut Reinforcement Learning for Calibrated Decisions (RLCD) . Tujuannya di sini bukanlah agar AI disukai atau meyakinkan, melainkan agar probabilitasnya jujur ​​dan terkalibrasi. Jika Jev mengatakan dia 90% yakin dengan suatu jawaban, angka tersebut harus mencerminkan akurasi sebenarnya—sesuatu yang sangat penting ketika Anda ingin perangkat lunak bertindak secara otonom tanpa manusia harus meninjau setiap langkah.

Tiga alat fundamental: alat-alat dasar

Visualisasi isometrik profesional dari pohon keputusan data dengan simpul kaca buram dan jalur terang.

Agar tetap sederhana dan efisien, API Jev didasarkan pada tiga jenis pertanyaan yang memungkinkannya untuk mencakup hampir semua kebutuhan klasifikasi:

  • Pilihan: Fitur ini memungkinkan Anda memilih satu opsi dari kelompok hingga 255 kemungkinan. Fitur ini tidak hanya memberikan opsi yang menang, tetapi juga peta probabilitas dari semua opsi dan skor kepercayaan. Fitur ini menyertakan opsi "lainnya" untuk mencegah model memaksakan jawaban yang salah.
  • Skor: Evaluasi sesuatu pada skala bertingkat (dari 2 hingga 10 level). Yang menarik adalah skala ini mengembalikan nilai desimal (seperti 1.4), yang memungkinkan Anda untuk menangkap... perbedaan antar kategori yang akan diabaikan oleh bilangan bulat.
  • Noul (evaluasi Boolean): Ini adalah versi sederhana dari ya atau tidak, yang menghasilkan probabilitas antara 0 dan 1.

Fitur yang paling ampuh adalah Jev dapat menjawab semua pertanyaan ini dalam satu langkah paralel . Jika Anda perlu mengetahui kategori pesan, tingkat kemarahan pelanggan, dan apakah mereka meminta pengembalian dana, Jev memberikan ketiga jawaban tersebut sekaligus, sehingga menambahkan lebih banyak pertanyaan hampir tidak memengaruhi waktu respons.

Kinerja, biaya, dan detail perjanjian.

Representasi abstrak dari aliran data berkecepatan tinggi melalui saluran digital, yang melambangkan latensi rendah.

Jika dilihat dari angkanya, TypeSafe AI menawarkan kecepatan yang menakjubkan, dengan latensi berkisar antara 70 hingga 500 milidetik . Dibandingkan dengan LLM terdepan, yang membutuhkan waktu beberapa detik untuk menyusun respons, Jev sangat cepat. Selain itu, harganya merupakan keunggulan utama: hanya berharga $0,042 per juta token input , dan outputnya sepenuhnya gratis, karena tidak menghasilkan teks baru.

Namun, angka-angka ini perlu dipertimbangkan dengan hati-hati. Banyak dari tolok ukur tersebut dilakukan oleh tim TypeSafe sendiri, yang mungkin menimbulkan bias. Meskipun demikian, janji nol kesalahan skema sangat nyata: secara matematis tidak mungkin bagi Jev untuk mengembalikan format yang belum Anda definisikan, sehingga menghilangkan kebutuhan akan validasi yang kompleks dalam kode.

Di mana letak keunggulan Jev AI dan di mana letak kekurangannya?

Arsitektur abstrak dari sebuah gateway API dengan blok-blok geometris yang saling terhubung dalam gaya antarmuka gelap modern.

Jev adalah rajanya ketika Anda harus membuat keputusan berulang dan besar-besaran pada data yang tidak terstruktur. Ini ideal untuk pengarahan prospek , moderasi konten, penanganan masalah teknis, atau bahkan membuat batasan untuk memantau hasil dari model AI lain yang lebih besar. Ini juga sangat berguna dalam navigasi web, di mana ia dapat memutuskan elemen mana yang harus diklik pada suatu halaman tanpa memerlukan deskripsi layar.

Namun, jangan mencoba menggunakannya untuk segalanya. Jev tidak cocok untuk mengobrol, pemrograman, atau menjelaskan alasannya. Ia memiliki keterbatasan yang jelas dalam matematika dan penghitungan karakter, dan tidak menangani tanggal atau nilai heksadesimal dengan baik. Selain itu, ia kurang memiliki pengetahuan umum; ia hanya mengetahui apa yang Anda masukkan dalam status kueri. Jika Anda membutuhkan penalaran yang kompleks atau generasi yang kreatif, Anda sebaiknya tetap menggunakan model Sistem 2 seperti Claude atau GPT.

Integrasi ke dalam ekosistem pembangunan

Bagi para programmer, integrasi cukup mudah. ​​SDK resmi tersedia untuk JavaScript, TypeScript, dan Python , dan meskipun tidak ada untuk PHP, hanya diperlukan permintaan POST sederhana. Selain itu, Jev sudah tersedia di AI Gateway Vercel, yang sangat menyederhanakan manajemen kunci dan penagihan jika Anda sudah menggunakan lingkungan tersebut.

Pola yang sangat cerdas untuk menggunakan Jev adalah dengan membuat kaskade pengambilan keputusan . Pertama, Jev menyaring dan mengklasifikasikan permintaan dengan cepat dan efisien; kemudian, kode deterministik menangani kasus-kasus yang lebih sederhana, dan hanya dalam kasus di mana Jev menunjukkan kepercayaan rendah, permintaan tersebut diteruskan ke model penalaran yang lebih mahal atau operator manusia. Hal ini mengoptimalkan anggaran dan mengurangi latensi sistem secara keseluruhan.

Alat ini mendefinisikan ulang hubungan antara AI dan perangkat lunak dengan menjadikan kecerdasan sebagai komponen infrastruktur , bukan sekadar perantara. Dengan menghilangkan pembuatan teks dan berfokus pada kalibrasi probabilistik, Jev memungkinkan mesin untuk membuat keputusan yang cepat dan andal dengan biaya yang sangat rendah, membuka pintu bagi otomatisasi yang sebelumnya terlalu mahal atau lambat.


Tambahkan sebagai sumber pilihan di Google