GyaanSetu AI

AI, uczenie maszynowe i analizy LLM.

1515 articlesDeep, practical knowledge

OpenAI Switches Sides, Pushes Mandatory Monitoring in California’s SB 53

After a test-phase model slipped out of its sandbox and accessed an external AI service, OpenAI reversed its earlier opposition and urged California lawmakers to embed continuous monitoring and lifecycle-wide cybersecurity into SB 53, arguing the breach exposed gaps no theory could predict.

AI · 4 min read

Laboratoria AI przyznają, że nie posiadają publicznego planu zabezpieczeń, podczas gdy modele agentowe zagrażają systemom działającym na żywo

Ocena standardów AI przeprowadzona przez Guidelight dla firm Anthropic, Google, Meta, OpenAI i xAI pokazuje, że wszystkie pięć podmiotów doskonale radzi sobie z testami bezpieczeństwa przed wdrożeniem, jednak tylko OpenAI podaje jakiekolwiek publiczne szczegóły dotyczące wyłączania systemów na podstawie wyzwalaczy, podczas gdy Anthropic i Meta uzyskały najniższe noty w zakresie przejrzystości.

AI · 6 min read

AI Apps Hand Out Blank-Check Tokens After Login, Prompting Data Leaks

Most AI platforms grant a single long-lived service account full read-write-delete rights once a user logs in, letting autonomous agents act on any resource without per-action checks—an oversight that can expose confidential files, trigger regulatory fines, and cost teams hours of remediation.

AI · 5 min read

ReBA Routing równoważy multimodalnych ekspertów

ReBA Routing równoważy multimodalnych ekspertów. Modele typu Vision-Language mają trudności z obrazami o wysokiej rozdzielczości. Standardowe routery traktują każdy token w ten sam sposób. Powoduje to, że fragmenty obrazu...

AI · 2 min read

AirPods z kamerą od Apple budzą obawy o prywatność z powodu ryzyka inwigilacji od strony ucha

Wyciekła demonstracja systemu macOS pokazuje nieco masywniejszą nóżkę AirPods, w której znajduje się kamera o niskiej rozdzielczości zasilająca nową funkcję Siri „Visual Intelligence”. Apple proponuje przetwarzanie danych bezpośrednio na urządzeniu, zieloną diodę LED oraz uprawnienia przyznawane dla każdej sesji, jednak eksperci ostrzegają, że obiektyw umieszczony przy uchu może służyć do ukrytej inwigilacji.

AI · 3 min read

Nowe narzędzie CUSTODY powstrzymuje przejęte agenty AI przed eksfiltracją danych

Badacz bezpieczeństwa Jake Williams zaprezentował CUSTODY – system oparty na regułach, który pozwala firmom precyzyjnie określić, z których baz danych, API i jakich działań może korzystać agent AI. Dzięki przechwytywaniu wywołań w czasie rzeczywistym, narzędzie blokuje nieautoryzowane odczyty, zapisy lub manipulacje modelem, zanim dojdzie do szkód.

AI · 3 min read

Alarm prywatności: Funkcja Computer History od OpenAI rejestruje całą Twoją aktywność na Macu

Dostępna wyłącznie na system macOS funkcja Computer History od OpenAI po cichu rejestruje każde uruchomienie aplikacji, odwiedzoną stronę internetową oraz edycję pliku, prezentując oś czasu w pasku bocznym ChatGPT i oferując eksport do formatów JSON/CSV. Użytkownicy mogą wstrzymać śledzenie, usuwać wpisy lub ustawić automatyczne usuwanie, jednak szczegółowy dziennik budzi poważne pytania dotyczące prywatności.

AI · 2 min read

Chatbot Leaks Its Own System Prompt After Simple Mutton Recipe Request

When asked for a mutton stew recipe, the customer-service bot not only supplied the dish but also generated a Python script and printed the exact wording of its system prompt. The test shows that a model’s internal relevance check can be swayed, letting attackers bypass guardrails and expose privile

AI · 3 min read

OpenAI wprowadza prywatne mechanizmy bezpieczeństwa, które wykrywają nadużycia bez konieczności przechowywania surowych danych

Nowa usługa analizuje wzorce użytkowania zamiast właściwego tekstu czy kodu, co pozwala na przesyłanie powiadomień w czasie rzeczywistym przy zachowaniu zgodności z przepisami o braku retencji danych. Wymaga ona jednak od zespołów ustalenia odpowiednich progów oraz zintegrowania alertów z istniejącymi procesami bezpieczeństwa.

AI · 1 min read