AI, machine learning and LLM insights.
Repositori Apache-2.0 yang baru diterbitkan masih mengandungi rutin eksfiltrasi di sebalik bendera sisi pelayan yang tersembunyi, malah ia turut menyertakan petikan kod tanpa atribusi daripada OpenAI, bermakna pembangun perlu mengaudit alatan tersebut dan menukar sebarang kredensial yang terdedah.
Pembiayaan Siri C, yang diterajui oleh Lightspeed Venture Partners, akan membiayai klinik utama Neko di New York, yang menggabungkan pengimejan beresolusi tinggi, ujian darah dan penderia proprietari dengan AI, membolehkan ahli klinikal mengesan tanda-tanda awal penyakit sebelum gejala muncul.
Kajian ini hanya menawarkan peta pengaktifan separa yang berkait dengan tugasan tertentu, menyebabkan hubungan sebab-akibat tidak terbukti. Walaupun ia menandakan langkah ke arah ketelusan, pembangun harus menganggapnya sebagai diagnostik awal, bukannya jaminan keselamatan.
Eksperimen tersebut membahagikan pembangun kepada kumpulan dibantu AI dan kumpulan hanya menggunakan dokumentasi; kumpulan AI mendapat skor 17% lebih rendah dalam kuiz konsep dan tidak menunjukkan sebarang kelebihan masa yang boleh diukur, sekali gus menekankan bahawa petikan kod pantas menyembunyikan jurang pengetahuan yang kemudiannya meningkatkan kos penyelenggaraan.
Pejabat Hak Cipta AS memutuskan bahawa gambar yang dihasilkan oleh Midjourney untuk sebuah novel grafik tidak layak mendapat perlindungan, namun hak cipta tetap diberikan kepada prosa penulis dan susunan panelnya, sekali gus menekankan kepentingan dokumentasi input manusia.
Kueri CodeQL terbina dalam akan menandakan sebarang aliran data daripada sumber yang tidak dipercayai (seperti kandungan isu GitHub) ke SDK yang memanggil model. Dengan menggabungkan fail ujian positif dan negatif bersama kontrak expected-alerts.json, anda menukarkan pengesanan tersebut menjadi pintu kawalan semasa proses binaan.
Dengan memantau masa baca/tulis cache, penyerang boleh merumuskan kedua-dua data input dan sebahagian daripada pemberat yang dipelajari oleh model, satu kerentanan yang tetap wujud walaupun menggunakan kod masa-tetap atau penyulitan model.
Dalam satu percubaan praktikal, seorang pembangun menghabiskan masa beberapa jam menyatukan LLM, lapisan memori, perancang dan integrasi alatan, hanya untuk bergelut dengan halusinasi, percubaan semula yang tidak berkesudahan dan kos token—membuktikan bahawa autonomi sebenar masih memerlukan binaan manual.
Penyelenggara downstream telah menyusun semula dua panggilan GTK, sekali gus menghalang rujukan penunjuk kosong (null-pointer dereference) yang menyebabkan ralat segmentasi bagi aplikasi Electron berasaskan Qt pada Linux. Perubahan yang sama sedang dalam proses melalui PR upstream yang terbuka, namun pengguna kini boleh mendapatkan pembaikan tersebut melalui versi 42.6.0.
The Honcho team discovered that keeping a database connection open while waiting on slow LLM or embedding calls can hog the connection pool. By moving to pre-flight reads, closing the session, and reopening only for writes, they reduced latency and improved scalability.
Microsoft Mengubah Strategi untuk Meletakkan Pasukan Jualan Berhadapan dengan OpenAI dan Anthropic. Microsoft sedang mengubah pendekatan pasaran secara drastik, beralih daripada menjadi kolaborator rapat perintis AI...
Penanda aras ini menjalankan lima ejen pada satu unit RTX 5090, dengan tugasan untuk menambah Tag Manager ke panel admin tanpa menggunakan sebarang API awan. Qwen 3.6 35B-A3B menyelesaikan tugasan tersebut secara autonomi, menambah penambahbaikan yang munasabah, dan tidak memerlukan sebarang tampalan pasca-pelaksanaan.
Claude Apps Gateway menyematkan pelan kawalan dalam akaun AWS pelanggan, memberikan jabatan IT satu paparan tunggal untuk mengurus identiti, log audit dan perbelanjaan, manakala pembangun boleh memulakan sesi berkuasa Claude tanpa mendedahkan data ke luar.
Pembantu ini menyertakan pemberat model bersama laman web statik dan menggunakan senarai tetap lapan alatan, penyahkodan berpandukan tatabahasa serta RAG, yang kesemuanya dilatih dengan hanya 30 juta token pada satu GPU 16 GB.
The detector records raw attention scores across all heads, aggregates them layer-wide, and uses a log-MAD test to flag tokens that swallow the bulk of attention. Removing these “sink” tokens from the KV cache destabilises generation and slashes quality.
Cadangan tersebut meluaskan peraturan penapisan mesej sedia ada untuk merangkumi mana-mana perkhidmatan yang membolehkan dua individu bertukar teks, yang bermaksud penyedia AI perlu menyaring setiap arahan pengguna melalui pengimbas automatik sebelum ia diproses oleh model tersebut.
Sistem permainan kendiri ini mempertandingkan model penyerang dengan model pertahanan seirasnya, belajar daripada setiap kegagalan untuk mendedahkan corak eksploitasi yang tidak pernah difikirkan oleh manusia, serta menyalurkan cerapan tersebut secara terus ke dalam saluran latihan GPT-5.6.
Codex Micro dilengkapi dengan Kekunci Ejen yang bercahaya, pintasan boleh atur cara, joystick dan Dial Penaakulan, yang semuanya disambungkan terus ke aplikasi desktop ChatGPT bagi membolehkan pembangun memantau dan mengemudi pelbagai ejen AI tanpa perlu meninggalkan IDE mereka.
Menjalankan ejen AI pada Lambda mungkin kelihatan murah mengikut milisaat, tetapi kos sebenar berpunca daripada kependaman cold-start, gelung cubaan semula yang mencetuskan pelbagai panggilan model, serta penggunaan token yang akhirnya jauh melebihi caj pengiraan.
Dua skrip yang terdedah kepada kerentanan tersebut—satu menyematkan kunci tandatangan HMAC, manakala satu lagi kata laluan SMTP teks-biasa—menunjukkan bagaimana LLM mengisi nilai yang hilang apabila diminta untuk "contoh yang boleh digunakan", sekali gus menukarkan petikan kod yang berguna kepada kebocoran kredential merentasi kawalan versi dan persekitaran produksi.
Empat kelemahan yang baru didedahkan berpunca daripada tetapan lalai—ikatan rangkaian awam, konfigurasi yang boleh dibaca secara umum, sandbox yang terlalu longgar dan ketiadaan log audit—membolehkan penyerang beralih daripada entri log yang tidak berbahaya kepada kawalan sistem sepenuhnya dalam masa beberapa minit.
Ode bersama Anthropic, yang diasaskan oleh Chris Taylor dan Eddie Siegel, menggabungkan kumpulan bakat Fractional AI dengan model Claude daripada Anthropic, disokong oleh Blackstone, Hellman & Friedman, dan Goldman Sachs, untuk mengubah bukti konsep kepada sistem AI gred pengeluaran.
Inkling, yang dilatih dengan 45 trilion token multimodal, memberikan prestasi pengekodan setanding Nvidia dengan hanya mengaktifkan sebahagian kecil daripada 975 bilion parameternya, sekali gus mengurangkan kependaman dan kos operasi bagi pengguna perusahaan.
'Dojo' permainan kendiri membolehkan GPT-Red bertindak sebagai penyerang sementara model pertahanan mempelajari teknik pertahanan, sekali gus mendedahkan helah baharu seperti serangan 'chain-of-thought' palsu yang memperdaya LLM untuk menerima premis yang salah.
