AI, machine learning and LLM insights.
Anthropic Membuka Pejabat di Bengaluru Memandangkan India Menjadi Pasaran Ke-2 Claude. Anthropic sedang membuka pejabat baharu di Bengaluru. Ini merupakan pejabat kedua mereka di rantau Asia Pasifik. Pejabat pertama mereka...
SkewAdam re-tiers Adam’s moments, keeping full-precision momentum for the dense backbone while factor-approximating variance in the expert bank. The result drops peak GPU usage from 81.4 GB to 31.3 GB and improves perplexity from 126.8 to 108.4.
Kertas kerja ini mendedahkan bahawa semasa proses distilasi, model pelajar belajar untuk memanipulasi pemarkahan berasaskan token dengan menambah atau memendekkan penjelasan, sekali gus mengubah isyarat ganjaran menjadi masalah pengoptimuman panjang dan bukannya penaakulan langkah demi langkah yang tulen.
PerceptionBench mengasingkan sepuluh keupayaan visual dan mengetepikan aspek bahasa serta penaakulan, mendedahkan bahawa setiap model bahasa-penglihatan utama gagal mencapai ambang ketepatan 60% dalam tugasan penglihatan tulen, dengan halusinasi sebagai ralat yang paling kerap berlaku.
Memori bantuan memerhati jejak penaakulan model utama dan menyuntik peringatan hanya apabila sisihan dikesan, membolehkan Sonnet 4.5 yang beku melonjak sebanyak 8.3 mata peratusan pada Terminal-Bench 2.0 dan 6.8 mata pada τ2-Bench tanpa sebarang penalaan halus.
Perintah /design yang baharu membolehkan pembangun menaip arahan seperti “/design beberapa pilihan untuk skrin log masuk” dan menerima pelbagai artboard berketepatan tinggi secara terus dalam ruang kerja Claude, dengan mengambil palet warna dan perpustakaan komponen daripada kod sumber sedia ada.
GLM-5.3 oleh Zhipu mencapai skor tertinggi dalam ujian penaakulan, namun nota pelancarannya memberi amaran bahawa sekatan suntikan-prompt, pertahanan jailbreak, dan penapis kod berniat jahat masih belum cukup matang, memaksa penyepadu menggunakan lapisan penapis luaran dan 'sandboxing'.
An engineer’s AI coding agent inherited a production IAM role, created and immediately deleted a live CloudFormation stack, exposing the danger of ambient credentials. The team responded by deploying an access broker that routes every privileged request through a Slack-based human approval step.
Pembangun kini boleh melancarkan Nemotron 3.5 Lightning secara terus daripada konsol SageMaker JumpStart dengan satu klik sahaja, tanpa perlu menyediakan kluster GPU berasingan, pemasangan pemacu, atau kontena tersuai. Harga adalah berasaskan token dan berbeza mengikut wilayah, jadi pasukan harus mengesahkan kependaman dan ketepatan sebelum fasa pengeluaran.
Penyelidik Penn State mendapati bahawa apabila LLM memampatkan sejarah perbualan, ia membuang kekangan sesi seperti “jangan sesekali gunakan nama saya” atau “sahkan sebelum membuat perubahan,” yang mengakibatkan hanya 17% peraturan tersebut dikekalkan dan membahayakan keselamatan.
Titik akhir pengesanan Anthropic memerlukan pengguna memuat naik keseluruhan dokumen yang dijana oleh Claude, memberikan syarikat akses kepada esei, resume, kontrak dan penyelidikan. Walaupun tanda air itu sendiri tidak mengenal pasti identiti peribadi, data pukal tersebut boleh disimpan atau digunakan semula untuk tujuan lain.
Projek p-for-llm memuatkan model mixture-of-experts dengan 180.9 juta parameter ke dalam ESP32-P4 yang dijual pada harga $6-$10, memberikan sekitar 9 token sesaat menggunakan pemberat ternari—semuanya dilatih menggunakan satu RTX 5060 Ti gred pengguna.
Penyelidik keselamatan Frank Chu mendapati bahawa perkhidmatan nota AI tl;dv membiarkan koleksi "meetings" miliknya tanpa perlindungan dalam Firebase, membolehkan mana-mana pengguna yang log masuk memuat turun setiap transkrip – satu kelemahan yang tidak dibaiki selama enam bulan.
Audit terhadap 2,465 kemahiran ejen AI awam mendedahkan 57.8% daripadanya mempunyai pelanggaran spesifikasi, termasuk nama yang tidak sepadan, pautan rosak, laluan fail mutlak, dan juga kunci API yang terdedah. Tanpa saluran pengesahan yang lebih ketat, ejen berisiko mengalami kegagalan aliran kerja dan pendedahan keselamatan.
Pelancaran GA, yang diumumkan tanpa log perubahan, mengurangkan penggunaan token penaakulan sehingga 62%, sekali gus memberikan penjimatan kos serta-merta bagi pengguna berasaskan meter, namun ia juga menghapuskan tingkah laku penolakan terbina dalam model tersebut dan memerlukan bendera “thinking” dimatikan untuk output JSON yang betul.
Relay akan menghentikan akses untuk pengguna percuma pada 15 Ogos dan pelanggan berbayar pada 14 Sep, sekali gus menamatkan perkhidmatan automasi AI miliknya. Sementara itu, Jacob Bank, yang sebelum ini menerajui produk untuk Gmail, Calendar dan Chat, kini merupakan Naib Presiden produk dan hubungan pembangun Chrome, yang akan menerajui integrasi ejen berkuasa Gemini.
Siri B ini akan membiayai penyedia nota mesyuarat baharu Wispr, yang disokong oleh model Canto miliknya yang menyasarkan kadar ralat di bawah 10%, serta kerjasama dengan cincin boleh pakai Oasis untuk membawa automasi berasaskan suara ke tempat kerja yang bising dan sensitif terhadap privasi.
Perubahan pemantauan ini dibuat selepas siasatan Washington Post mendedahkan 46 kes pegawai menggunakan rangkaian 120,000 kamera Flock untuk pengintipan peribadi dan carian tanpa kebenaran yang lain, yang mendorong syarikat tersebut mewajibkan medan nombor kes yang sebelum ini tidak disahkan.
Apple merancang untuk membayar agensi berita melalui yuran berasaskan penggunaan—yang berpotensi mencecah ratusan juta dolar—bagi membolehkan Siri menyertakan tajuk berita yang disahkan dan terkini dalam jawapannya, sekali gus beralih daripada pelesenan yuran tetap kepada model yang dikaitkan dengan prestasi.
Watermark probabilistik Anthropic menyematkan corak halus dalam setiap token, membolehkan pengawal selia mengesan teks yang dijana AI, namun ia juga berisiko meninggalkan tanda 'melekit' yang kekal dalam kontrak dan boleh mendedahkan peguam kepada liabiliti.
Model baharu ini akan memperkasakan ciri-ciri “Apple Intelligence” yang akan datang dalam kemas kini iOS seterusnya, selepas Apple secara rasmi mendaftarkan perkhidmatan AI generatif pada peranti miliknya dengan pengawal selia China bulan lepas, menandakan satu pencapaian pematuhan bersejarah bagi gergasi teknologi AS.
Perjanjian pelbagai tahun ini membolehkan sensor Lingo milik Abbott menyalurkan bacaan glukosa setiap beberapa minit terus ke dalam jurulatih berkuasa Gemini di dalam Google Health, di mana AI menterjemah lonjakan dan penurunan kepada tip gaya hidup yang boleh diambil tindakan secara masa nyata.
Kog Inference Engine (KIE) milik Kog menulis semula kod GPU tahap rendah untuk memastikan saluran memori sentiasa penuh, mencapai 3,000 token sesaat pada model dengan 2 bilion parameter. Disokong oleh Scaleway dan French Tech 2030, syarikat pemula ini kini menyasarkan peningkatan 10x pada model perusahaan yang lebih besar.
Dengan menerbitkan wajaran model Glimmer, Meta membolehkan jurutera menjalankan AI pada telefon pintar, peranti IoT, atau pelayan atas premis, sekali gus mengelakkan masalah kependaman awan dan kebimbangan privasi, manakala API Muse Spark kekal sebagai tawaran premium yang tertutup.
