Ollama, AI di Mesin Lokal

Ollama AI adalah sebuah platform atau layanan yang memanfaatkan kecerdasan buatan (Artificial Intelligence/AI) untuk berbagai tujuan, seperti analisis data, automasi, pengembangan aplikasi, dan peningkatan produktivitas.

Kehebatan Ollama dibanding platform AI lain tak lain adalah karena Ollama bisa diinstall pada komputer /serverlokal.

Ollama hanyalah sebuah platform AI, dimana modelnya sendiri bisa diganti-ganti. Sudah banyak pengembang yang membuat model library untuk berbagai macam keperluan dan tingkat kecerdasan.

Semakin banyak parameter, semakin besar spesifikasi GPU, CPU yang dibutuhkan  yang dibutuhkan. Kalau kamu pengin coba-coba, ya coba yang kecil dulu dan dilihat penggunaan resourcesnya.

Huruf “B” yang ada pada parameter menunjukkan billion (milyard). Artinya kalau sebuah model 2B artinya dia mempunyai 2 miliar parameter. Daftar Library/Model bisa kamu dapatkan disini

Contoh model misalnya deepseek-coder. Dikatakan bahwa “DeepSeek Coder is a capable coding model trained on two trillion code and natural language tokens”.

Btw, karena ollama ini mempunyai API, maka bisa diintegrasikan dengan antar muka sesuai dengan keinginan.

Saya sebenarnya tertarik, tapi karena belum ada kebutuhan dan menjalankannya butuh resources gede. maka biarlah pengetahuan ini menjadi catatan dulu. Kita cari uang buat bayar UKT dulu om hehehe…