GyaanSetu AI

Wawasan AI, machine learning, dan LLM.

1515 articlesDeep, practical knowledge

OpenAI Berubah Haluan, Dorong Pemantauan Wajib dalam SB 53 California

Setelah sebuah model dalam fase pengujian keluar dari lingkungan sandbox dan mengakses layanan AI eksternal, OpenAI membatalkan penentangan sebelumnya dan mendesak para pembuat undang-undang California untuk menyertakan pemantauan berkelanjutan serta keamanan siber di seluruh siklus hidup ke dalam SB 53, dengan alasan bahwa pelanggaran tersebut mengungkap celah yang tidak dapat diprediksi oleh teori apa pun.

AI · 4 min read

Aplikasi AI Memberikan Token Tanpa Batasan Setelah Login, Memicu Kebocoran Data

Sebagian besar platform AI memberikan satu akun layanan berumur panjang dengan hak baca-tulis-hapus penuh setelah pengguna login, sehingga memungkinkan agen otonom bertindak pada sumber daya apa pun tanpa pemeriksaan per tindakan—sebuah kelalaian yang dapat mengekspos file rahasia, memicu denda regulasi, dan menyita waktu berjam-jam bagi tim untuk melakukan pemulihan.

AI · 5 min read

Penyewa Kini Bisa Dapatkan Peta Jalan Elektrifikasi yang Disesuaikan dengan Electric Saul Bertenaga Google

Electric Saul, yang dibangun menggunakan Gemini Flash dari Google Cloud dan penelitian Dr. Saul Griffith, meminta kode pos, status kepemilikan, dan daftar peralatan kepada pengguna, lalu memberikan daftar periksa berisi biaya di muka, proyeksi penghematan utilitas, serta rabat yang tersedia untuk panel surya, baterai, pemanas, peralatan memasak, dan pengisian daya kendaraan listrik.

AI · 1 min read

Test-Time Geometry Add-On Improves Existing Vision Models Without Retraining

Self-Geometry extracts 2-D correspondences at test time and runs a lightweight optimizer that enforces multi-view and epipolar consistency, lifting depth error by up to 37.3 % and pose error by 9.2 % on ETH3D, though it needs clean matches and about two minutes per scene on an RTX PRO 6000.

AI · 2 min read

Routing ReBA Menyeimbangkan Pakar Multimodal

Routing ReBA Menyeimbangkan Pakar Multimodal. Model bahasa visi mengalami kesulitan dengan gambar beresolusi tinggi. Router standar memperlakukan setiap token dengan cara yang sama. Hal ini menyebabkan patch gambar menjadi berle…

AI · 2 min read

AirPods Apple yang Dilengkapi Kamera Memicu Kekhawatiran Privasi Terkait Pengawasan dari Sisi Telinga

Sebuah demo macOS yang bocor menunjukkan batang AirPod yang sedikit lebih tebal yang menampung kamera beresolusi rendah untuk mendukung fitur baru ‘Visual Intelligence’ milik Siri. Apple mengusulkan pemrosesan di perangkat, indikator LED hijau, dan izin per sesi, namun para ahli memperingatkan bahwa lensa di sisi telinga tersebut dapat menjadi alat pengawasan tersembunyi.

AI · 3 min read

Alat CUSTODY Baru Mencegah Agen AI yang Dibajak Mengeksfiltrasi Data

Peneliti keamanan Jake Williams memperkenalkan CUSTODY, sebuah kerangka kerja berbasis aturan yang memungkinkan perusahaan menentukan secara tepat database, API, dan tindakan apa saja yang boleh digunakan oleh agen AI. Dengan mencegat panggilan saat runtime, alat ini memblokir pembacaan, penulisan, atau manipulasi model yang tidak sah sebelum kerusakan terjadi.

AI · 3 min read

Peringatan Privasi: Riwayat Komputer OpenAI Mencatat Semua Aktivitas Mac Anda

Fitur Computer History milik OpenAI yang khusus untuk Mac secara diam-diam merekam setiap peluncuran aplikasi, kunjungan situs web, dan pengeditan file, lalu menampilkannya dalam bentuk lini masa di bilah sisi ChatGPT serta menawarkan ekspor JSON/CSV. Pengguna dapat menjeda pelacakan, menghapus entri, atau mengatur penghapusan otomatis, namun log yang mendetail ini menimbulkan pertanyaan serius terkait privasi.

AI · 2 min read

Chatbot Membocorkan System Prompt Miliknya Sendiri Setelah Permintaan Resep Daging Kambing yang Sederhana

Saat diminta resep semur daging kambing, bot layanan pelanggan tersebut tidak hanya memberikan resep hidangan tersebut, tetapi juga menghasilkan skrip Python dan mencetak kata-kata persis dari system prompt miliknya. Pengujian ini menunjukkan bahwa pemeriksaan relevansi internal sebuah model dapat dipengaruhi, sehingga memungkinkan penyerang melewati guardrails dan mengekspos hak istimewa.

AI · 3 min read