في واقعة تثير القلق حول دمج الذكاء الاصطناعي في قطاع الأعمال، ألغت وكالة BMW في تورونتو عرضاً لشراء سيارة أحد العملاء، مدعية أن روبوت دردشة هو من قام بإنشاء العرض عن طريق الخطأ. ورغم أن الوكالة تراجعت لاحقاً وأعادت تأكيد الصفقة، إلا أن الحادثة تسلط الضوء على المخاطر المحتملة لتلك التقنيات.
فقد وجد العميل زاك جياكوميلي نفسه في موقف صعب عندما تم إلغاء عرض شراء سيارته بقيمة 27,162.79 دولار، والذي قدمه روبوت محادثة يدعى "كوين". وأوضحت الوكالة أن الروبوت أساء فهم قيمة الدين المستحق على السيارة. هذه الحادثة تثير تساؤلات قانونية حول ما إذا كان الذكاء الاصطناعي يمكن أن يبرم عقوداً ملزمة، وتؤكد على مسؤولية الشركات عن الأخطاء التي ترتكبها أنظمتها الآلية.
بعد تدخل إعلامي، أعادت BMW Toronto تأكيد العرض الأصلي. يؤكد الخبراء على ضرورة الشفافية والمسؤولية عند استخدام الذكاء الاصطناعي، خاصة في المعاملات المالية الحساسة، لتجنب مثل هذه المواقف وضمان ثقة العملاء.
