Первый сервер искусственного интеллекта NeuReality на чипе проверен и запущен в производство

сервер искусственного интеллекта NeuReality на чипе

Первый в своем классе сетевой адресуемый процессор NeuReality (NAPU) проходит проверку качества и перемещается на производственное предприятие TSMC, обещая более высокую производительность, более доступную и простую в использовании инфраструктуру центра обработки данных, которая раскрывает весь потенциал искусственного интеллекта

САНТА-КЛАРА, Калифорния, 13 сентября 2023 года / PRNewswire / — 7-нм ИИ-ориентированный чип NR1 от NeuReality передал свой окончательный, проверенный дизайн на производство TSMC, создав первый в мире ИИ-ориентированный сервер на чипе (SOC). Важным шагом для полупроводниковой промышленности NeuReality преобразует решения для искусственного интеллекта, используемые в широком спектре приложений – от обработки естественного языка и компьютерного зрения до систем распознавания речи и рекомендаций.

В связи с массовым внедрением искусственного интеллекта как услуги (AIaaS) и приложений, требующих инфраструктуры, таких как ChatGPT, решение NeuReality имеет решающее значение для отрасли, остро нуждающейся в недорогом доступе к модернизированной инфраструктуре вывода искусственного интеллекта. В ходе испытаний серверных систем, ориентированных на искусственный интеллект, чип NeuReality NR1 продемонстрировал в 10 раз большую производительность при тех же затратах по сравнению с обычными системами, ориентированными на процессор. Эти замечательные результаты свидетельствуют о том, что технология NeuReality является лидером в достижении экономичного и высокоэффективного выполнения вывода искусственного интеллекта.

Вывод искусственного интеллекта традиционно требует значительных программных затрат. Заключительные шаги NeuReality от проверенного проектирования до производства, известные в отрасли как “ленточная печать”, знаменуют новую эру высокоинтегрированной, масштабируемой серверной архитектуры, ориентированной на искусственный интеллект.

По словам Моше Танаха, соучредителя и генерального директора NeuReality, чип NR1 представляет собой первый в мире NAPU (или сетеадресуемый процессор) и будет рассматриваться как противоядие устаревшему подходу к ИИ, ориентированному на процессор. “Для того чтобы ускорители глубокого обучения, ориентированные на логический вывод (DLA), работали на полную мощность, без существующих системных узких мест и высоких накладных расходов, наш набор решений в сочетании с любой существующей технологией DLA позволяет обрабатывать запросы на обслуживание искусственного интеллекта быстрее и эффективнее, – сказал Танах.

“Функция за функцией аппаратное обеспечение работает быстрее и распараллеливает гораздо больше, чем программное. Как отрасль, мы проверили эту модель, перенеся функцию обработки глубокого обучения с процессоров на DLA, такие как решения GPU или ASIC. Как и в законе Амдала, пришло время перенести фокус ускорения на другие функции системы, чтобы оптимизировать всю обработку вывода искусственного интеллекта. NR1 предлагает беспрецедентно конкурентоспособную альтернативу современным серверным решениям общего назначения, устанавливая новый стандарт для направления, которое должна выбрать наша отрасль, чтобы полностью поддерживать цифровую эпоху искусственного интеллекта “. добавил Танах.

NeuReality меняет направление развития отрасли, расширяя возможности перехода от подхода, ориентированного в основном на программное обеспечение, к подходу с разгрузкой оборудования, при котором несколько чипов NR1 работают параллельно, что позволяет легко избежать узких мест в системе. Каждый чип NR1 представляет собой подключенное к сети гетерогенное вычислительное устройство с несколькими уровнями программируемых вычислительных систем, включая интерфейс PCIe для размещения любого DLA; встроенный контроллер сетевого интерфейса (NIC) и встроенный AI-гипервизор, аппаратный секвенсор, который управляет вычислительными системами и перемещает структуры данных между ними. Аппаратное ускорение во всем автоматизированном потоке SDK NeuReality снижает барьер для входа для малых, средних и крупных организаций, которым нужны отличная производительность, низкое энергопотребление и доступная инфраструктура, а также простота использования для вывода сервисов искусственного интеллекта.

“Мы в восторге от нашего продукта NAPU первого поколения, проверенного и готового к запуску в производство. Мы на всех парах приближаемся к этой долгожданной стадии производства с нашими партнерами TSMC. В наших планах – начать поставки продукта напрямую клиентам к концу года “, – говорит Танах

О NeuReality
Основанная в 2019 году, NeuReality Ltd. является инновационной компанией в области технологий искусственного интеллекта, создающей специализированные платформы искусственного интеллекта для сверхмасштабируемости реальных приложений искусственного интеллекта. Его технология преобразует то, как компании внедряют вывод с использованием искусственного интеллекта, благодаря целостному системному решению, которое поддерживает неограниченные модели глубокого обучения благодаря легко применяемому интегрированному комплексному подходу.

Компанию возглавляет опытная команда менеджеров с большим опытом работы в архитектуре центров обработки данных, системах и программном обеспечении. Соучредителями NeuReality являются генеральный директор Моше Танах, вице-президент по операциям Цвика Шмуэли и вице-президент VLSI Йоси Касус. До основания NeuReality Моше Танах занимал несколько руководящих должностей в качестве директора по инженерным разработкам в Marvell и Intel и AVP R & D в DesignArt-Networks (позже приобретена Qualcomm). Цвика Шмуэли занимала должности вице-президента по серверной части в Mellanox Technologies и вице-президента по инжинирингу в Habana Labs. Йосси Касус занимал должность старшего директора по разработке в Mellanox и руководителя СБИС в EZChip.

NeuReality разработала первое полноценное системное решение, специально разработанное для решения задач оптимизации, развертывания, управления и масштабирования рабочих нагрузок искусственного интеллекта. NeuReality внедряет искусственный интеллект повсюду, предлагая комплексное решение для развертывания системы вывода, которое снижает стоимость, сложность и энергопотребление благодаря революционно новой архитектуре, SDK и API, ориентированной на искусственный интеллект.

Translate »
 
Чат Telergram

Привет, готов ответить на Ваши вопросы

Открыть чат
1
Отсканируйте код
Здравствуйте!
Возможно я могу Вам чем-то помочь?