Jalankan AI Anda sendiri
di perangkat keras milik Anda
Menjalankan sendiri berarti tidak ada yang keluar dari gedung. Tidak ada kebijakan retensi yang harus dipercaya, tidak ada ketentuan yang bisa berubah, tidak ada akun yang ditangguhkan di tengah sesi. Sampai baru-baru ini hal itu juga berarti model yang jauh lebih lemah. Sekarang tidak lagi.
01Mengapa menjalankan sendiri
- Data tetap di tempat. Posisi nasional, instruksi dari ibu kota, dan apa pun yang disampaikan kepada Anda secara rahasia tidak pernah sampai ke pihak ketiga.
- Bobot yang Anda pegang tidak bisa dinaikkan harganya atau ditarik di tengah sesi.
- Anda melihat seluruh jalurnya. Laboratorium terhosting menyimpan jejak penalaran mereka. Di server sendiri Anda mencatat setiap langkah dan bisa menunjukkan kepada kolega apa yang terjadi.
- Keterampilannya mengendap di institusi Anda alih-alih disewa kembali setiap tahun.
02Berapa biayanya
Dibandingkan dengan berlangganan untuk setiap delegasi, perangkat keras itu balik modal dalam satu atau dua siklus, dan tetap bekerja setelah pendanaan berakhir.
03Apa yang dijalankan
| Model | Lisensi | Indeks |
|---|---|---|
| Kimi K3 | Terbuka, dibatasi | 60 |
| GLM-5.3 | Terbuka, MIT | 60 |
| Qwen3.8 2.4T | Terbuka, dibatasi | 58 |
| GLM-5.3-Flash | Terbuka, MIT | 57 |
| DeepSeek V4 Pro | Terbuka | 53 |
| Qwen3.8 27B | Terbuka, dibatasi | 52 |
| gpt-oss-120b | Terbuka | 24 |
Baca lisensinya sebelum Anda berkomitmen. Beberapa model terbuka terkuat membatasi penggunaan komersial, yang bagi delegasi biasanya tidak menjadi masalah dan bagi vendor yang membangun di atasnya menjadi masalah.
Sajikan dengan vLLM atau SGLang. Keduanya menghadirkan API OpenAI, sehingga alat apa pun yang berbicara dengan ChatGPT akan berbicara dengan server Anda setelah alamat dan kuncinya diganti. Di laptop, ollama run gpt-oss:120b
04Sewa atau berdaulat
- Skala melawan kemandirian lokal. Sistem bersama itu murah dan kuat. Ia juga menetapkan kategorinya, membangun ketergantungan, dan bisa membuat jalan keluar tertutup.
- Kuasa melawan risiko. Siapa yang memegang kuasa sepatutnya memikul sebagian risiko. Dengan menyewa, penyedia yang menulis ketentuannya dan Anda yang menanggung hasilnya.
- Keterbukaan belum berarti kepercayaan. Sistem tertutup bisa diaudit lewat kontrak. Yang Anda perlukan adalah hak permanen untuk memeriksa, dan bobot yang Anda pegang adalah cara termurah untuk mendapatkannya.
- Kapasitas berbunga. Model terbuka baru muncul setiap beberapa bulan. Tim yang menjalankan sistemnya sendiri mencoba tiap model dalam sepekan dan mempertahankan orang yang menguasainya. Tim yang terikat kontrak menunggu.
- Hak untuk tidak dimodelkan. Ada pengetahuan yang tidak layak masuk model mana pun. Kedaulatan mencakup penolakan untuk menjadi data.
Ketegangan dari lokakarya AI4PG tentang Kedaulatan Keputusan atas Alam, ETH Zurich, Juli 2026.
05Sebelum memercayainya
Indeks ini rata-rata dari sembilan evaluasi, dan model terbuka tidak tertinggal secara merata di semuanya. Kesenjangan paling lebar pada tugas penalaran tersulit dan pada halusinasi, tempat model proprietari masih unggul.
Bagi seorang negosiator, hal kedua itulah yang menentukan segalanya. Arahkan model ke dokumen Anda sendiri, minta sitasi, dan buka sitasi tersebut.
06Jika belum bisa
Gunakan layanan terhosting dengan perjanjian retensi data nol secara tertulis, dan perlakukan sebagai langkah sementara. Model terhosting untuk bahan publik, membaca, dan latihan. Perangkat keras sendiri untuk posisi apa pun yang belum publik.