Alice (Formerly ActiveFence)

Happy Halloween from our founding team! 🎃 Alon Porat Eyal Dykan Noam Schwartz Iftach Orr

CBRNE threats (Chemical, Biological, Radiological, Nuclear, and Explosives) represent some of the most consequential risks in frontier AI safety. But when evaluating whether AI models enable real-world mass casualty risks, standard safety evaluations often test in the dark; overlooking the fact that AI can be weaponized in completely different ways and to vastly different extents depending on the user. In our latest piece, Lauren Pegler and I dive into why Threat Intelligence isn't just a supplement to AI evaluation. It is a must-have. Main takeaways: ▪️The Real Risk is Reduced Information Friction AI doesn't necessarily teach threat actors chemistry or biology from scratch. It rather collapses the time and effort required to curate, synthesize, and operationalize dual-use knowledge already scattered across scientific literature. ▪️Single-Prompt Evals Fail Adversaries work across platforms, tools, and encrypted networks. Evaluating isolated single-turn prompts overlooks how threat actors distribute their activity over time to avoid detection. ▪️There is No Single "CBRNE Actor" We map out 6 distinct actor profiles, from ideologically motivated networks and biohacking hobbyists to commercial brokers. How an AI model is weaponized varies fundamentally by user: a capability that offers little practical shift to one profile may dramatically empower another. Testing AI safety against an imagined threat won't keep us safe. We need to evaluate models against how threat actors actually behave in the real world. 🔎 Read the full article on Medium: https://lnkd.in/dAHs-iFv

Before AI agents, there were platforms. We spent a decade keeping users of the biggest social media platforms safe. That’s where our edge comes from. We’ve seen the absolute worst: billions of real-world examples of how people abuse the digital space. The same digital space AI learned from. Today, that intelligence and our researchers help frontier labs train their models and help enterprises stress-test their agents before they reach production. We’ve seen the worst, so we can make AI better. Real attacks make safe AI, for everyone.

אחרי שבחרתם בקלפי, בואו לבחור מקום עבודה הצטרפו אלינו - חברת Alice (Formerly ActiveFence) עוסקת באבטחת והגנה על מודלי בינה מלאכותית, עובדים עם 8 מתוך 10 חברות המודלים הגדולות בעולם ועובדים במודל היברדי מאוד (1-2 ימים בשבוע מהמשרד לרוב הצוותים, משרדים בבורסה ברמת גן על קו רכבת קלה וכבדה). Parent-friendly, LGBTQ friendly, Dogs friendly & human friendly המשרות שפתוחות בארץ: 🗳️ Head of AI Safety & Security Research 🗳️ Senior AI Security Researcher 🗳️ Intelligence Operations Analyst 🗳️ Director of AI Research & Data Operations 🗳️ Principal AI Research Cybersecurity Scientist 🗳️ Tech Lead - Malware and Vulnerability Research 🗳️ Director of Product, UGC Platforms 🗳️ Tech Lead - Penetration Testing, Red Team, Cloud, and ICS/OT 🗳️ People Operations & HRIS Specialist 🗳️ Malware Research and Review Team Leader 🗳️ Senior AI Researcher 🗳️ Head of RL Gym - Program Operations 🗳️ Senior Data Product Manager, AI 🗳️ AI Red Team – GenAI Adversarial Evaluation 🗳️ Technical Fraud Threat Analyst 🗳️ AI Platform Engineer 🗳️ Senior GenAI Data Scientist 🗳️ Malware Researcher 🗳️ Fraud Threat Analyst 🗳️ Malware Research (Mid-Level) 🗳️ Senior Software Developer — Malware Research Platform לאחרונה סיימנו גיוס נוסף של 140 מיליון דולר: https://lnkd.in/dWyqJjBv ואנחנו ברשימה של leumi tech על הסטארטאפים המבטיחים לשנת 2026: https://lnkd.in/d7smHAh7 והצצה למשרדים שלנו ולעשייה: https://lnkd.in/d8d3H4nG לעמוד המשרות והגשה: https://lnkd.in/dgf3fn4n

Frontier-level security, without a frontier-level budget. That’s the case our CEO Noam Schwartz made in Forbes this week, in a piece on how open models can beat the frontier. An open model doesn’t need to solve everything. It needs to be very, very good at your use case, and safe while doing it. Our work with AI21 Labs and Inflection AI on NVIDIA Nemotron showed how far the right adversarial data can go. Thanks to Tim Keary for the conversation. 🫖 Read the full piece: https://lnkd.in/dvkbgqDN

איך יודעים שאירוע מקצועי באמת הצליח? לפי מה שקורה בחדר שעה וחצי אחריו. בתמונה הזאת אף אחד לא בטלפון. אף אחד לא בודק מה השעה. אף אחד לא ממהר לצאת. כן כן. אפילו ערב בחירות. אנשים פשוט יושבים, מרותקים, שואלים, משתפים בדילמות אמיתיות ולומדים אחד מהשני. וכשהאירוע הרשמי נגמר? השיחה רק התחילה. בסוף צריך כמעט לפנות את כולם:) וזה בדיוק מה שקרה אמש במפגש של פורום ההייטק ACC Israel על סבבי השקעה, עסקאות M&A ו-IPO. מי שמכיר אותי יודע שזו אחת האג׳נדות הקבועות שלי: המחלקה המשפטית צריכה להיות מוכנה כאילו מחר בבוקר נפתחת עסקה. לא מתחילים להתכונן כשהדאטה רום נפתח. ההכנה האמיתית נעשית הרבה קודם, ובטח כעת שהעולם השתנה ועסקאות מסוג זה נסגרות בקצב כה מהיר. ובנימה אישית, בתוך כל מה שמעסיק ומפלג אותנו כאן, היה מרגש לראות בחדר את מה שמחבר: עשייה, נדיבות מקצועית והרצון האמיתי לעזור אחד לשני. בעיניי, זו אחת החוזקות היפות של ההייטק הישראלי ושל הקהילה המיוחדת שלנו. כמי שמשקיעה בבניית הקהילה הזו, זה בדיוק הרגע שבו אני יודעת למה אני עושה את זה. לא כדי למלא חדר, אלא כדי ליצור חדר שאנשים רוצים להישאר בו. מקום שבו נבנים אמון, ידע, עזרה הדדית וקשרים, שממשיכים הרבה אחרי שנגמר האירוע. תודה גדול�� ל S. Horowitz על האירוח והסיוע, וספציפית למרים זלצמן המצויינת, לפאנליסטים על שלל העצות והתובנות, לשיר עוזרד, המנחה, שהייתה גם שותפה בארגון המפגש, ולכל מי שהגיע, שיתף והפך את המפגש הזה למה שהוא היה. ומי שפספס? ה-FOMO, כרגיל, מוצדק. בחירות מוצלחות לכולנו! Jonah Abramowitz I Shir Kodner I Miriam Zaltsman I Daniel Neiger I Sharon Reingwirtz

We traded the teacups for martini glasses 🍸 . 💦 Party in AI Wonderland. 📍 Dec 2, 9 PM, Las Vegas. Request an invite → https://luma.com/5ea8u7jx

Adversarial testing and threat evaluation shouldn't stop at frontier model labs. Everyone building, deploying, or trusting AI today deserves top-tier security. Safe AI belongs to everyone. Meet ALICE. 👇

We partnered with Inflection AI on one of the hardest problems in conversational AI: keeping people well, not just engaged. Together, we built a conversational safety research dataset to help the field study how people and AI assistants relate to each other over long conversations. We designed 20+ realistic personas and red-teamed a pre-release version of Pi, Inflection AI’s personal intelligence, with its usual safety guardrails turned off, across long conversations where risk builds slowly, the way it does in real life. Inflection AI used NVIDIA's Nemotron 3 Super to build this specialized model capability. We are also partnering with Inflection AI to release the dataset - because safe AI should belong to everyone! Thank you to the Inflection AI and NVIDIA teams for building this with us! 💚 Read the full story 🫴 https://lnkd.in/d69u72Gv

Exciting moment @ NVIDIA GTC: Jensen highlighted Alice and AI21 Labs during his keynote. 💚