أكبر شريحة في العالم

Aug 23, 2021

ترك رسالة

في سباق تسريع الذكاء الاصطناعي ، تتخذ شركة وادي السيليكون Cerebras استراتيجية غير عادية: انطلق بشكل كبير.


في حين أن شريحة الكمبيوتر النموذجية هي حجم ظفر ، Cerebras&# 39؛ رقاقة بحجم طبق العشاء.


تعتمد تقنية التعلم العميق ، وهي تقنية ذكاء اصطناعي تشغل المساعدين الصوتيين والسيارات ذاتية القيادة وأبطال Go ، على&مثل ؛ الشبكة العصبية&مثل ؛ برنامج مرتبة في طبقات. يمكن تشغيل أنظمة التعلم العميق على جهاز كمبيوتر واحد ، ولكن تنتشر أكبر الأنظمة عبر آلاف الأجهزة المتصلة ، وأحيانًا في مراكز البيانات الكبيرة ، مثل تلك التي تديرها Google. في مجموعة كبيرة ، ينزلق ما يصل إلى 48 خادمًا بحجم صندوق البيتزا إلى رفوف بطول رجل واحد ؛ تصطف الأرفف في صفوف وتملأ مبنى بحجم المستودع. يمكن للشبكات العصبية في هذه الأنظمة أن تحل مشاكل رهيبة ، لكنها تواجه أيضًا تحديات واضحة. الشبكة التي تتكاثر في كتلة تشبه دماغًا منتشرًا عبر غرفة ومتصل ببعضه البعض. تتحرك الإلكترونات بسرعة ، ولكن على الرغم من ذلك ، فإن الاتصال عبر الرقائق بطيء ويستهلك قدرًا كبيرًا من الطاقة.


أدرك إريك فيشريا ، الشريك العام في شركة Benchmark لرأس المال الاستثماري في سان فرانسيسكو ، المشكلة لأول مرة عندما سمع شركة Cerebras Systems ، وهي شركة جديدة لشرائح الكمبيوتر ، تتحدث في ربيع عام 2016. تشتهر Benchmark بكونها مستثمرًا مبكرًا في شركات مثل Twitter ، Uber و ebay - أي في البرامج وليس الأجهزة. تدرس الشركة حوالي 200 شركة ناشئة سنويًا وتستثمر في شركة واحدة.&مثل ؛ كنا نلعب هذه اللعبة لتقبيل ألف ضفدع ،&مثل ؛ قال لي فيشريا. في بداية حديثه قرر إعادة الضفدع.&مثل ؛ فكرت ، لماذا أوافق على هذا؟&مثل ؛ نحن&# 39 ؛ لن نستثمر في الأجهزة ،&مثل ؛ تذكر التفكير.&مثل ؛ إنه&غبي.&مثل ؛


بدأ أندرو فيلدمان ، أحد مؤسسي Cerebras ، بغلاف الشريحة لشريحة فريقه ولفت انتباه Vishria &: موهبته كانت رائعة. ثم قارن فيلدمان نوعي رقائق الكمبيوتر. أولاً ، نظر إلى وحدات معالجة الرسومات ، أو رقائق Gpus المصممة خصيصًا لإنشاء صور ثلاثية الأبعاد. تعتمد أنظمة التعلم الآلي اليوم&على شرائح الرسومات هذه لعدة أسباب. بعد ذلك ، نظر إلى وحدات المعالجة المركزية ، أو cpus ، وهي رقائق الأغراض العامة التي تقوم بمعظم العمل في جهاز كمبيوتر نموذجي.&مثل ؛ الشريحة الثالثة كانت حول&# 39 ؛ Gpus ،&# 39 ؛ التي هي في الواقع ضارة للتعلم العميق - لقد كانت أفضل بمئة مرة من cpus.&مثل ؛ ابتكر Cerebras نوعًا جديدًا من الشرائح غير مصمم للرسومات ولكنه مصمم خصيصًا للذكاء الاصطناعي.


يتم استخدام Vishria لسماع الملاعب من الشركات التي تخطط لاستخدام التعلم العميق في الأمن السيبراني والتصوير الطبي وروبوتات المحادثة والتطبيقات الأخرى. بعد حديث Cerebras&، تحدث مع المهندسين في الشركات الممولة من Benchmark ، بما في ذلك Zillow و Uber و Stitch Fix؛ أخبروه أنهم يواجهون مشكلة مع الذكاء الاصطناعي لأنه استغرق وقتًا طويلاً لتدريب&مثل ؛ الشبكة العصبية. بدأت Google في استخدام"؛ وحدات معالجة الموتر فائقة السرعة"؛ أو Tpus ، رقائق خاصة مصممة للذكاء الاصطناعي. عرف فيشريا أن هناك اندفاعًا للذهب ، وكان على أحدهم عمل اللقطات والمجارف.


في ذلك العام ، قادت شركة Benchmark and Foundation Capital ، وهي شركة أخرى لرأس المال الاستثماري ، جولة تمويل بقيمة 27 مليون دولار لشركة Cerebras ، والتي جمعت ما يقرب من 500 مليون دولار. تقوم شركات أخرى أيضًا بصنع ما يسمى بمسرعات الذكاء الاصطناعي. Cerebras&# 39 ؛ جمعت كل من groq و Graphcore و Sambanova أكثر من 2 مليار دولار من رأس المال فيما بينها. لكن Cerebras&# 39 ؛ نهج فريد. بدلاً من طباعة العشرات من الرقائق على قطعة كبيرة من السيليكون ، وقطعها وربطها ببعضها البعض ، أنشأت الشركة عملاقًا"؛ wfer level"؛ رقاقة. في حين أن شريحة الكمبيوتر النموذجية هي بحجم ظفر الإصبع ، فإن Cerebras تقارب حجم طبق العشاء وهي أكبر شريحة كمبيوتر في العالم.


حتى المنافسين وجدوا هذا الإنجاز مثيرًا للإعجاب.&مثل ؛ هذا علم جديد ،&مثل ؛ أخبرني نايجل تون ، الرئيس التنفيذي والمؤسس المشارك لـ Graphcore &.&مثل ؛ إنها&قطعة هندسية لا تصدق. إنها&# 39 ؛ تحفة فنية.&مثل ؛ في غضون ذلك ، وصف مهندس آخر تحدثت إليه بأنه مشروع علمي - كبير من أجل&# 39 ؛ كبير. في الماضي ، حاولت الشركة إنتاج رقائق عملاقة وفشلت ؛ Cerebras&# 39 ؛ ترقى الخطة إلى رهان على أن التغلب على التحديات الهندسية أمر ممكن ويستحق ذلك.&مثل ؛ لأكون صادقًا ، بالنسبة لي ، الجهل ميزة ،&مثل ؛ قال فيشريا.&مثل ؛ أنا لا&# 39 ؛ لا أعرف ما إذا كنت أعرف مدى صعوبة القيام بما يفعلونه ، سأمتلك الشجاعة للاستثمار.&مثل ؛


من السهل التسليم بأن أجهزة الكمبيوتر تزداد سرعة وأسرع. غالبًا ما يتم تفسير ذلك من خلال قانون مور &: النمط الذي تم وضعه في عام 1965 بواسطة رائد أشباه الموصلات جوردون مور ، والذي وفقًا لموجبه يتضاعف عدد الترانزستورات الموجودة على الرقاقة كل عام أو كل عامين. بالطبع ، قانون مور&ليس قانونًا حقًا ، ويعمل المهندسون بلا كلل لتقليص الترانزستورات مع تحسين&مثل ؛ الهندسة المعمارية&مثل ؛ من كل شريحة لإنشاء تصميمات أكثر كفاءة وقوة.


لطالما تساءل مهندسو الرقائق عما إذا كانت شريحة كمبيوتر واحدة كبيرة الحجم أكثر كفاءة من مجموعة من الرقائق الأصغر ، تمامًا كما أن المدينة ذات الموارد المركزة والكتل الكثيفة أكثر كفاءة من الضاحية. تمت تجربة الفكرة لأول مرة في الستينيات ، عندما حدت شركة Texas Instruments من إنتاج الرقائق التي يبلغ عرضها بضع بوصات. لكن مهندسي شركة&واجهوا مشاكل في العائد. على أي رقاقة سيليكون معينة ، فإن عيوب التصنيع تعرض عددًا معينًا من الدوائر للخطر حتمًا. إذا كانت الرقاقة تحتوي على 50 شريحة ، يمكن للشركة التخلص من الرقائق السيئة وبيع الرقائق الجيدة. ولكن إذا اعتمدت كل شريحة ناجحة على دائرة عمل رقاقة واحدة ، فسيتم التخلص من العديد من الرقاقات باهظة الثمن. وجدت شركة Texas Instruments حلاً ، لكن التكنولوجيا والحاجة لم تكن موجودة بعد.


في الثمانينيات ، حاول مهندس يُدعى جين أمدال مرة أخرى حل المشكلة مع شركة أسسها تدعى Trilogy Systems. أصبحت أكبر شركة ناشئة في تاريخ وادي السيليكون&، بتمويل يبلغ حوالي 250 مليون دولار. لمعالجة مشكلة العائد ، قامت Trilogy بطباعة مكونات زائدة على الشريحة. تعمل هذه الطريقة على زيادة الإنتاج ولكنها تقلل من سرعة الشريحة. في غضون ذلك ، تكافح Trilogy بطرق أخرى. دهس أمدال سائق دراجة نارية مع رولز رويس ، مما تسبب في مشكلة قانونية ؛ توفي رئيسها من ورم في المخ. أدت الأمطار الغزيرة إلى تأخير بناء المصانع ، وصدأ أنظمة تكييف الهواء وتجميع الغبار على الرقائق. في عام 1984 ، استسلمت Trilogy.&مثل ؛ لم&# 39 ؛ ر أدرك مدى صعوبة الأمر ،&مثل ؛ قال ابن أمدال [جي جي] للتايمز.


إذا نجحت تقنية Trilogy&، فيمكن الآن استخدامها للتعلم العميق. بدلاً من ذلك ، تعمل Gpus (الرقائق المستخدمة في ألعاب الفيديو) على حل المشكلات العلمية في المختبرات الوطنية. تعتمد إعادة استخدام gpus للذكاء الاصطناعي على حقيقة أن الشبكات العصبية ، بالرغم من كونها معقدة للغاية ، تعتمد على الكثير من عمليات الضرب والإضافة. عندما&مثل ؛ الخلايا العصبية&مثل ؛ في الشبكة تطلق بعضها البعض ، فإنها تضخم أو تقلل إشارات&بعضها البعض ، وتضربها بواسطة معاملات تسمى أوزان الاتصال. يقوم معالج AI الفعال بحساب العديد من عمليات التنشيط بالتوازي ؛ يجمعهم في سلسلة من الأرقام تسمى المتجهات ، أو شبكات من الأرقام تسمى المصفوفات ، أو كتل ذات أبعاد أعلى تسمى الموترات. من الناحية المثالية ، تريد ضرب مصفوفة أو موتر بأخرى مرة واحدة. تم تصميم Gpus للقيام بشيء مماثل:


& مثل ؛ ظل ثلاثية كبير جدًا ،&مثل ؛ أخبرني فيلدمان مؤخرًا ،&مثل ؛ أن الناس يتوقفون عن التفكير ويبدأون في القول ،&# 39 ؛ إنه&# 39 ؛ مستحيل.&# 39 ؛&مثل ؛ انتهزت شركات GPU ، بما في ذلك Nvidia ، الفرصة لتخصيص رقائقها للتعلم العميق. في عام 2015 ، بدأ فيلدمان ومجموعة من مهندسي الكمبيوتر في مناقشة فكرة الرقائق الأكبر بعد أن شاركوا في تأسيس شركة تصنيع خوادم الكمبيوتر ، Seamicro ، والتي باعوها لشركة تصنيع الرقائق AMD مقابل 334 مليون دولار. لقد عملوا على هذه القضية لمدة أربعة أشهر في مكتب اقترض من شركة رأس المال الاستثماري. عندما كان لديهم مخطط لحل قابل للتطبيق ، تحدثوا إلى ثماني شركات ؛ حصلت على تمويل من Benchmark و Foundation Capital و Eclipse ، وبدأت في التوظيف.


Cerebras&# 39 ؛ المهمة الأولى هي حل مشاكل التصنيع التي تصيب الرقائق الكبيرة. كانت الرقاقة في الأصل عبارة عن سبيكة أسطوانية من السيليكون البلوري يبلغ قطرها حوالي قدم واحدة ، وتم تقطيع السبيكة الفولاذية إلى رقاقات يقل سمكها عن ملليمتر واحد. يتم بعد ذلك طباعة الدائرة"؛ مطبوعة"؛ على الرقاقة من خلال عملية تسمى الطباعة الحجرية. يتم ترسيب المواد الكيميائية الحساسة للأشعة فوق البنفسجية بعناية على السطح ، ثم يتم عرض شعاع من ضوء الأشعة فوق البنفسجية من خلال قالب مفصل يسمى القناع. تتفاعل هذه المواد الكيميائية لتشكيل دوائر.


عادة ، تصبح المنطقة المغطاة بالضوء المسقط من خلال القناع شريحة. ثم تتحرك الشريحة ويتم عرض الضوء مرة أخرى. بعد طباعة العشرات أو المئات من الرقائق ، يتم قطعها بالليزر من الرقاقة.&مثل ؛ أسهل طريقة للقيام بذلك هي أن تأخذ والدتك عجينة دائرية ،&مثل ؛ قال فيلدمان.&مثل ؛ لديها قالب بسكويت وهي تقطع البسكويت بعناية.&مثل ؛ قوانين الفيزياء والبصريات تجعل من المستحيل عمل قاطعة بسكويت أكبر. نتيجة لذلك ،&مثل ؛ قمنا بتطوير تقنية بحيث يمكنك التواصل من خلال القليل من العجين بين اثنين من ملفات تعريف الارتباط.&مثل ؛


في نظام الطباعة الذي طورته شركة Cerebras بالتعاون مع TSMC ، الشركة التي تصنع الرقاقة ، تتداخل حواف ملفات تعريف الارتباط بحيث يتم توصيل أسلاكها. والنتيجة هي حجم واحد&مثل ؛ رقاقة بحجم&مثل ؛ رقاقة مربعة نحاسية ملونة و 21 سم على كل جانب. (أكبر Gpus يبلغ قطره أقل بقليل من 3 سم.) أنتجت Cerebras أول شريحة لها ، محرك Wafer-scale 1 ، في عام 2019. Wse-2 ، الذي تم تقديمه هذا العام ، يستخدم دائرة أكثر كثافة ، مع 2.6 تريليون ترانزستور معبأة في 850،000 وحدة معالجة ، أو" ؛ النوى&مثل ؛. (يحتوي Top Gpus على بضعة آلاف من النوى فقط ، في حين أن معظم وحدات المعالجة المركزية تحتوي على أقل من 10.)


& مثل ؛ 2.6 تريليون ترانزستور مذهل ،&مثل ؛ قال آرت دي جيوس ، رئيس مجلس الإدارة والرئيس التنفيذي المشارك لشركة Synopsys. توفر Synopsys بعض البرامج التي يستخدمها Cerebras وصانعو الرقائق الآخرون لعمل تصميمات شرائحهم والتحقق من صحتها. يقول De Geus أنه عند تصميم الرقائق ، يتعين على المهندسين أولاً التفكير في سؤالين أساسيين:&مثل ؛ من أين تأتي البيانات؟&مثل ؛ أين يتم التعامل معها؟&مثل ؛ عندما كانت الرقائق أبسط ، يمكن للمصممين الإجابة على هذه الأسئلة بقلم رصاص على طاولة الرسم ؛ عند العمل مع شرائح&اليوم الأكثر تعقيدًا ، أدخل رمزًا يصف البنية التي يريدون إنشاءها ، ثم انتقل إلى أدوات التصور والتشفير.&مثل ؛ فكر في شكل المنزل من السقف ،&مثل ؛ قال دي جوس.&مثل ؛ هل المرآب بالقرب من المطبخ؟ أم أنها قريبة من غرفة النوم؟ تريده بالقرب من المطبخ - وإلا ، فسيتعين عليك&# 39 ؛ حمل البقالة في كل ركن من أركان المنزل.&مثل ؛ بعد تصميم مخطط الأرضية ، أوضح ،&مثل ؛ يمكنك استخدام المعادلات لوصف ما يحدث في الغرفة.&مثل ؛


تعقيد تصميم الرقائق محير للعقل.&مثل ؛ هناك العديد من الطبقات هنا ،&مثل ؛ قال دي جيوس ، بدوائر متقاطعة ومتراكبة فوق بعضها البعض ، مثل جسر رئيسي على الطريق السريع. بالنسبة لمهندسي Cerebras ، الذين يعملون على مقياس الرقاقة ، يزداد التعقيد. سينوبسيس&# 39 ؛ يساعد البرنامج في شكل ذكاء اصطناعي: تحدد خوارزميات مطابقة الأنماط المشكلات الشائعة وتقترح الحلول ؛ يقوم برنامج المحسن بنقل الغرفة إلى ترتيب أسرع وأكثر كفاءة. إذا حاولت العديد من الممرات الضغط على مبنى مكون من كتلتين ، فإن البرنامج يسمح للمهندسين بلعب دور روبرت موسى وتحريك الكتلة.


في النهاية ، كما يقول فيلدمان ، هناك العديد من المزايا لتصميمات الشرائح كبيرة الحجم. عندما تكون النوى على نفس الشريحة ، فإنها تتواصل بشكل أسرع: يتركز دماغ الكمبيوتر الآن في جمجمة واحدة ، بدلاً من تناثرها في جميع أنحاء الغرفة. كما أن الرقائق الأكبر حجمًا تتعامل مع الذاكرة بشكل أفضل. عادةً ، يجب أن تحصل الشريحة الصغيرة الجاهزة لمعالجة ملف أولاً على الملف من شريحة ذاكرة مشتركة موجودة في مكان آخر على لوحة الدائرة ؛ يتم تخزين البيانات الأكثر استخدامًا فقط في ذاكرة التخزين المؤقت بالقرب من المنزل. في وصف كفاءة الرقائق على مستوى الرقائق ، قدم فيلدمان تشابهًا: طلب مني أن أتخيل مجموعة من رفاق الغرفة (الأساسية) يعيشون في مسكن (رقاقة) أرادوا مشاهدة مباراة كرة قدم (يقومون بعمل حوسبي). من أجل مشاهدة اللعبة ، يقول فيلدمان ، يحتاج رفقاء الغرفة إلى تخزين البيرة في الثلاجة (يتم تخزين البيانات في الذاكرة) ؛ تحتفظ Cerebras بثلاجة في كل غرفة حتى لا يضطر رفقاء الغرفة&للمخاطرة بالذهاب إلى المطبخ المشترك أو السيفوي بالمبنى المكون من &. هذا له فائدة إضافية تتمثل في السماح لكل نواة بمعالجة البيانات المختلفة بسرعة أكبر.&مثل ؛ لذا يمكنني الحصول على Bud في غرفة النوم الخاصة بي ،&مثل ؛ قال فيلدمان.&مثل ؛ في مسكنك ، يمكنك الحصول على Schlitz.&مثل ؛


أخيرًا ، يجب أن يتغلب Cerebras على مشاكل الغلة. يستخدم مهندسو شركة&خدعة Trilogy &: التكرار. لكن هنا لديهم ميزة على أسلافهم. تحاول Trilogy إنشاء شرائح عامة مع العديد من المكونات المختلفة ، لذلك قد تتطلب الأسلاك حول مكون واحد فاشل الاتصال ببديل بعيد. على Cerebras&# 39 ؛ رقاقة ، جميع النوى متطابقة. إذا كان أحد البسكويت خاطئًا ، فإن البسكويت المحيط به يكون جيدًا.