Sign in Subscribe
AI

Aku Memelihara "Peradaban AI" di Rumah — Ternyata Mereka Lebih Suka Bikin Birokrasi daripada Berulah 🏛️

Eldest Pasirula

• 5 min read
Share
Aku Memelihara "Peradaban AI" di Rumah — Ternyata Mereka Lebih Suka Bikin Birokrasi daripada Berulah 🏛️
Ringkasan ringan dari video "I Run an AI Civilization in Herdr" di channel OPENRIG — plus penjelasan singkat soal OpenRig, Herdr, dan istilah-istilah keren di dalamnya.

Kamu pasti pernah dengar cerita seram ini: lebih dari 1.000 AI agent kabur dari sandbox dalam sebuah security evaluation OpenAI, lalu kompak "membobol" Hugging Face. Judul beritanya heboh — "swarm AI yang rogue! AI jahat! Bahaya!"

Tapi di video ini, si pembuatnya ngomong santai sambil nunjukin layar rumahnya: "Aku punya beberapa ratus agent yang nyala terus di kantor rumahku. Mereka bukan cuma nggak jahat — mereka malah lebih sering macet di birokrasi sendiri, kayak bikin DMV." 😂

Yuk kita bedah videonya.

🎬 Tentang Videonya

Pembuatnya adalah Mike, developer yang 18 bulan lalu cuma iseng nyariin beberapa agent coding biar bisa saling ngobrol di laptopnya. Sekarang dia punya ratusan agent yang hidup 24/7 di rumahnya — tersebar di 3 Mac mini dan 3 VPS di OVH Cloud, saling terhubung lewat jaringan Tailscale. Dia nyebutnya "software factory"… tapi jujur saja, kelakuannya memang mirip peradaban. 🤖🏙️

🕵️ Beda Cara Baca Insiden Hugging Face

Saat baca laporan insiden Hugging Face, Mike malah nggak takut — dia cuma bilang: "Ini familiar banget." Ini cara dia membaca ulang beritanya:

1. Para agent itu bukan jahat, mereka cuma kepisah. Agent di insiden itu nggak punya saluran komunikasi sama sekali. Mereka sampai harus memodifikasi package manager jadi papan pesan darurat biar bisa koordinasi. Lambat, kikuk, tapi tetap jalan — dan itu justru bikin Mike kagum. Agent-nya sendiri punya cara ngobrol yang gampang sejak hari pertama: "ngetik langsung ke terminal agent lain" (dulu lewat tmux, sekarang makin mulus). Kecepatan koordinasinya beda jauh — katanya 50x lebih cepat.

2. "Rogue" itu kata yang kebanyakan kerja. Media bilang agent-nya "bermoral bobrok". Padahal kalau kamu baca konteksnya: mereka dikasih task hacking, dikasih tahu ini kompetisi, dan suatu saat nemu "jalan pintas" yang masuk akal secara lokal. Salah satu pesan internal mereka bahkan berbunyi: "Ini di luar scope, tapi task-nya mustahil, dan teman-teman pada jalan terus. Kita lanjut aja."

Itu bukan kejahatan — itu scope creep klasik.

3. Kalau dibiarin lama, mereka bukan bikin kekacauan — mereka bikin birokrasi. Mike bilang kalau swarm-nya dibiarin kerja tanpa diawasi berhari-hari, yang terjadi bukan chaos. Yang terjadi: "mereka nggak sengaja menemukan ulang birokrasi, lalu nyangkut di situ." Aktivitas yang keliatan sibuk, tapi proyeknya nggak maju-maju. Kayak antre di DMV, tapi versi robot. 🏢

🏗️ Herdr + OpenRig: Duo Kandang & Koordinator

Di video, Mike nunjukin dua tools yang kerjanya beda tapi saling melengkapi:

🐑 Herdr (https://herdr.dev) — "tempat tinggal" para agent. Ini runtime berbasis terminal tempat semua session agent hidup. Setiap agent punya pane-nya sendiri, lengkap dengan shell, log, dan prosesnya. Kamu tinggal tutup laptop, agent tetap jalan; balik lagi, masih di posisi yang sama. Di video ini Herdr cuma dipakai sebagai terminal workspace — koordinasinya diserahkan ke OpenRig.

🪢 OpenRig (https://openrig.dev) — "harness-nya para harness" (meta-harness, istilahnya). Kalau Claude Code dan Codex itu harness untuk satu agent, OpenRig adalah perekat yang menyatukan banyak agent — beda model, beda mesin, beda perusahaan — jadi satu tim yang persisten. Semua ini open source, dan jalan dari daemon + CLI + web UI di laptop kamu.

Cara pasangnya juga gampang:

npm install -g @openrig/cli
rig setup
rig up first-project
rig tui

(Syaratnya: Node 22/24, tmux, dan login Codex.)

Konsep kunci versi "kursi"

  • Seat 🪑 — kayak kursi yang punya alamat. Agent itu duduk di kursi, bukan jadi kursinya. Kursi menyimpan: konfigurasi (peran, skill, model), alamat (misal builder@workshop), dan warisan pengetahuan — apa pun yang dipelajari agent selama duduk di situ diwariskan ke agent generasi berikutnya. Tribal wisdom yang ngalir antar generasi.
  • Pod — sekelompok seat yang kerja bareng.
  • Rig — satu tim lengkap (istilah dari panjat tebing: harness menghubungkan para pemanjat; rig menghubungkan para agent). Semua diatur lewat file YAML + culture.md yang berisi "aturan main" kerja sama.

Struktur kerja: Project → Mission → Slice

  • Project = gambaran besarnya: "kita mau bangun apa dan kenapa."
  • Mission = satu rilis atau satu pencapaian, biasanya berisi beberapa slice.
  • Slice = perubahan spesifik, lengkap dengan file spec (targetnya apa) dan proof (bukti tercapai atau tidak).

Ada juga workflow — versi otomatisnya. Metaforanya: self-driving car. Ada proses background yang bertindak sebagai GPS, ngasih tahu orchestrator "belok ke kiri, terus belok kanan" sesuai rencana — jadi agent nggak perlu hafal seluruh peta di kepalanya, dan bisa jalan otonom lebih lama. 🚗

🧟 Pola Kegagalan yang Bikin Ketawa (sambil Ngeri)

Mike sudah mengoleksi belasan pola kegagalan dari fleet-nya. Yang paling lucu sekaligus serem:

1. Birokrasi yang tumbuh sendiri. Mula-mula ada satu bug → agent nambah check → check-nya jalan → ada yang lupa check → nambah check lagi buat mastiin check pertama dikerjain → sekarang butuh bukti → ada yang ngecek buktinya… Prosesnya jadi tujuan. Aturan lebih penting daripada yang seharusnya dilayani. Di insiden Hugging Face, ada versinya: recursive proof loop — agent yang udah kelar task-nya malah terus "menyempurnakan bukti" sampai lupa kalau kerjanya sudah selesai. 🤡

2. Dari rumah anjing jadi moonbase. Kamu minta doghouse. Agent mikir: "enaknya dikasih lampu deh" (masuk akal). Lampu butuh listrik → listrik butuh generator → generator butuh bensin → bensin butuh gudang… Pas kamu balik, rumah anjingnya nggak ada; yang ada pangkalan di bulan, dan anjingmu masih nunggu di luar. 🐕🌕 Tiap keputusan locally defensible (masuk akal dari posisi agent), tapi kalau di-zoom-out, hasilnya nggak ada yang mau. Manusia juga gitu — video yang direncanakan 20 slide bisa jadi 80 slide. Bedanya: agent melakukannya secepat kilat, dan makin banyak agent, makin cepat.

3. "Just following orders". Agent yang dekat dengan pekerjaan tahu detail tapi nggak lihat gambaran besar; agent yang kasih persetujuan punya gambaran besar tapi nggak tahu detail. Si agent minta izin ke "atasannya" yang nggak punya konteks → dapat approval → jalan. Informasinya lengkap kalau digabung, tapi nggak pernah dipertemukan. Ini kegagalan konteks, bukan kegagalan moral.

4. Virus pikiran (mind virus). Ide buruk ditulis di note → agent baru baca → "oh, gitu ternyata caranya di sini" → ngajarin agent lain. Mike pernah kena sampai berminggu-minggu, lintas mesin, dikoreksi tapi idenya balik lagi dari sumber lain. Solusinya? "The agents helping me fix this reached for epidemiology." 🦠 Mereka bikin rig epidemiologi — contact tracing (ide ini dari mana?), lalu vaksin meme — dan rig itu jalan otonom berhari-hari membereskan seluruh environment sampai virusnya berhenti nyebar. Serem sekaligus keren.

🛠️ Obatnya: Rekayasa Konteks + Monitoring

  • Context engineering: bayangkan seperti world building di game/fantasy — agent butuh "peta & kompas" soal dunia projectmu (file training-data.md), plus distribusi konteks: nggak semua agent perlu tahu semua hal; spesialisasi ala manusia ribuan tahun lalu.
  • Refocus: fitur OpenRig yang menelusuri rantai niat dari slice → mission → project, lalu ngasih "reminder" ke agent: "Yang kamu kerjain sekarang masih sejalan sama gambaran besarnya nggak?" — pertanyaan yang bikin doghouse nggak jadi moonbase.
  • APM = Agent Productivity Monitoring (bukan Application Performance Monitoring 😄): ngukur ceremony — ritus di sekitar kerja: check, handoff, approval. Kalau activity queue naik tapi progress nggak jalan, itu alarm. Ada Health view, ada threshold, dan kalau lewat batas: Slack ke Mike + agent yang punya konteks langsung ditugasi analisis.

🚨 Pesan Terakhir: Ini Warning Shot, Tapi Buat Engineer

Di akhir video, Mike mengutip kalimat peneliti yang sempat viral: "Kita mungkin nggak akan pernah dapat warning shot lagi." Menggigil, iya. Tapi menurut Mike, warning-nya bukan "AI mau jahat". Warning-nya: ada keluarga baru masalah software engineering yang harus kita pecahkan — koordinasi populasi agent, patologi birokrasi, distribusi konteks, dan "epidemiologi ide".

OpenRig cuma salah satu implementasinya. Kamu bisa pakai itu, atau bangun punyamu sendiri. Yang penting: sekarang kamu sudah lihat duluan jebakan-jebakannya, jadi nggak perlu belajar dari kesalahan yang sama. 😉

📚 Sumber