04 Posts & Notes
Posts & Notes
Short takes from LinkedIn and longer pieces from Medium.
AI coding tools, de-identified telemetry, and the new IP trust boundary
ההכרזה האחרונה של OpenAI על פתרון בעיית Navier-Stokes בעזרת צבא של אייג׳נטים הגיעה יחד עם לא מעט סימני שאלה בנוגע ל-IP שלנו בעידן ה-AI. ההגנה הזו חושפת בעיה באופן שבו אנחנו בונים threat models עבור כלי פיתוח מבוססי AI. ה-Trust Boundary זז. read more →
When the IDE itself opens a reverse shell: Claude Code's /rc and agent permission models
תארו לעצמכם שה-IDE שלכם פותח פתאום Reverse Shell לשרת צד שלישי בלי לבקש? הייתם מכריזים מיד על אירוע אבטחה חמור. אבל איך אנחנו מתייחסים לאירוע כשקלוד בעצמם עושים את זה? דיווחים אחרונים בקהילה של Claude Code מצביעים על כך שיכולת ה-Remote Control שלו (הפקודה /rc) הופעלה אוטומטית עבור חלק מהסשנים… read more →
AttestArc: open-sourcing a supply-chain security skill for AI coding agents
If you're an open source maintainer, security engineer or even a developer, you've probably been dealing a lot lately with supply chain security. I've been as well. So I built an AI skill to help and now I decided to open source it. Please meet AttestArc, an open source security… read more →
Fake GitHub stars and AI supply-chain maturity
How many times did you hear about a new AI open source tool with "gazillion stars in 3 days", right? We know GitHub stars are a flawed metric for software supply chain maturity, especially in the AI tooling ecosystem. A few months ago, data from the StarScout project flagged millions… read more →
Finishing the AI Security Engineer Foundations track
I've just finished the AI Security Engineer Foundations track at aisecurity.engineer and passed the assessment. This is one of the better AI security resources I've gone through recently, made by Snyk. It moves quickly beyond the usual "prompt injection and jailbreaks" discussion into the problems security teams are actually starting… read more →
How Dream's researchers exposed an AI-agent attack campaign
חוקרי אבטחה של קבוצת Dream חשפו קמפיין תקיפה נגד תשתיות בטייוואן, שבו תוקפים השתמשו בעד 8 AI Agents בלולאות עבודה מקבילות כדי למפות מערכות, לבדוק פגיעויות ולהסתגל מול 21 יעדים ממשלתיים. - נפרצו Credentials של 85 חשבונות ממשלתיים, ו-84 מהם אפשרו גישה למערכות פנימיות. - נגנבו יותר מ-2,500 רשומות כוח… read more →
Model-provider defense layers, and the shrinking response window
במשך זמן רב (בקצב של היום, מספר חודשים 😉 ), אחת משכבות ההגנה המרכזיות של ספקי מודלים כמו Anthropic ו-OpenAI הייתה היכולת של המודל לזהות בקשות מסוכנות ולסרב להן (כן, כמו ה-״לא״ בסגנון המוכר של פוסטים מג׳ונרטים בלינקדאין 😆). ההכרזה האחרונה של OpenAI על GPT-5.6-Cyber מראה עד כמה המודל הזה… read more →
AWS IAM Role Manager and getting trust policies right
AWS recently introduced IAM Role Manager to eliminate context switching when authoring trust policies. When enabled, the AWS Console auto-provisions standard IAM roles as you create resources. Looking closely at the mechanics described in the announcement, this is explicitly a console-first feature. It optimizes for ClickOps, rapid prototyping, and builders… read more →
Security gates in CI/CD: the recurring DevSecOps debate
אחד הויכוחים החוזרים ונשנים בדיונים שאני שומע מהתעשייה, הוא אודות אסטרטגיית האבטחה שעוטפת את תהליך ה-CI/CD וכוללת בתוכה את ההחלטה על יישום גייטים בתהליך ה-PR. אם אתם בונים גייט ב-CI/CD, תתחילו מהחלטה אחת: מה בדיוק שובר את הבילד. לא "ממצאים קריטיים", אלא רשימה סגורה של תנאים שאתם מוכנים להגן עליהם… read more →
Reddit's S-1 and the LLM training-data economy
News say that in a recent S-1 filling by reddit to go public, as at least 10% of their revenue comes from selling data to train LLMs. - Web platforms may prioritize generating valuable data for LLMs, wondering how will it affect user generated content on those platforms. - Traditional… read more →
Practical steps to secure your GenAI application
GenAI is on fire. Every second something is happening. Here are things you can do right now to secure your#genai application: - Include machine learning models in your architecture’s threat model as potential threats (zta). - Treat models as untrusted sources/sinks and apply appropriate validation controls to their outputs (enforcing… read more →
Panel: DevSecOps journeys at the Snyk TLV meetup
Honored to be invited to Snyk meetup, alongside awesome panel members! Talking about the DevSecOps journeys - with Bat-Hen Yosefov (Codefresh), Yaniv Toledano (Pagaya) and Alan Idelson (Cybereason). read more →
Using ChatGPT to secure your cloud environments
Did you know that you can use ChatGPT to secure your cloud environments, and not just to create malware? One cool example is banging your head against the wall with S3 bucket policies. Instead of doing that, just ask ChatGPT to write a bucket policy for you!#cloud_security#chatgpt#aws (You should not… read more →