השימוש בטכנולוגיה זו מעורר שאלות אתיות ומבצעיות, שכן הנחיות השימוש של אנתרופיק אוסרות על השימוש ב"קלוד" לצורך סיוע לאלימות, פיתוח כלי נשק או ביצוע מעקבים. דובר מטעם אנתרופיק מסר כי החברה לא יכולה להגיב בשאלה האם "קלוד", או כל מודל בינה מלאכותית אחר, שימש למבצע ספציפי כלשהו, מסווג או אחר. הדובר הדגיש כי כל שימוש ב"קלוד", בין אם במגזר הפרטי ובין אם בממשל, מחויב לעמוד במדיניות השימוש של החברה, וכי הם עובדים בצמוד לשותפיהם כדי להבטיח ציות לכללים. משרד ההגנה סירב להגיב לפרטים אלו.
הטמעת המערכת התבצעה באמצעות השותפות של אנתרופיק עם חברת הנתונים פלנטיר טכנולוגיות, אשר כליה נמצאים בשימוש נרחב על ידי משרד ההגנה ורשויות אכיפת החוק הפדרליות. חששותיה של אנתרופיק לגבי האופן שבו הפנטגון עשוי להשתמש ב"קלוד" דחפו גורמים בממשל לשקול את ביטול החוזה עם החברה, ששוויו מגיע עד 200 מיליון דולר. פלנטיר לא הגיבה מיד לבקשת תגובה.
אנתרופיק הייתה מפתחת מודל הבינה המלאכותית הראשונה שנעשה בה שימוש במבצעים מסווגים על ידי משרד ההגנה. ייתכן כי נעשה שימוש בכלי בינה מלאכותית נוספים במבצע בוונצואלה למשימות בלתי מסווגות, שכן הכלים יכולים לשמש למגוון מטרות, החל מסיכום מסמכים ועד לשליטה ברחפנים אוטונומיים. אימוץ הטכנולוגיה על ידי הצבא נתפס כחיזוק משמעותי לחברות הבינה המלאכותית המתחרות על לגיטימציה ומבקשות להצדיק את הערכות השווי העצומות שקיבלו ממשקיעים.
המגבלות שהציבה החברה החריפו את המאבק שלה מול ממשל הנשיא טראמפ. המאבק כולל האשמות כי אנתרופיק חותרת תחת אסטרטגיית הבינה המלאכותית של הבית הלבן, הדוגלת ברגולציה מועטה, על ידי קריאה ליותר אמצעי הגנה ומגבלות על ייצוא שבבי בינה מלאכותית. באירוע שנערך בינואר, בו הוכרז כי הפנטגון יעבוד עם חברת xAI, אמר מזכיר ההגנה פיט הגסת' כי הסוכנות לא "תעסיק מודלים של בינה מלאכותית שלא יאפשרו לך להילחם במלחמות". הערה זו התייחסה לדיונים שניהלו גורמים בממשל עם אנתרופיק.
החוזה, בסך 200 מיליון דולר, הוענק לאנתרופיק בקיץ שעבר. אמודיי הביע בפומבי דאגה לגבי השימוש בבינה מלאכותית במבצעים קטלניים אוטונומיים ובמעקב פנימי, שתי נקודות המחלוקת העיקריות במשא ומתן הנוכחי על החוזה עם הפנטגון. אמודיי ומייסדים אחרים של אנתרופיק עבדו בעבר ב-OpenAI, אשר הצטרפה לאחרונה ל-Gemini של גוגל בפלטפורמת בינה מלאכותית לאנשי צבא המשמשת כשלושה מיליון בני אדם. החברה ומשרד ההגנה מסרו כי הגרסה המותאמת של ChatGPT תשמש לניתוח מסמכים, הפקת דוחות ותמיכה במחקר.
התרעות פיקוד העורף