Актуальные темы
BYTE/Россия
IT Channel News
Intelligent Enterprise/RE
itWeek
Бестселлеры ИТ-рынка

Спецпредложения

Бонус 5% за закупки ИБП и стабилизаторов SMARTWATT

Бонус 5% за закупки ИБП и стабилизаторов SMARTWATT

Уважаемые партнеры! В Merlion действует акция – за закупки источников бесперебойного питания и стабилизаторов SMARTWATT вам начисляется бонус 5%. Период действия акции: 14 апреля – 30 июня 2025 г. Бонусы будут начислены на баланс компании партнера или выплачены в виде подарочных ...
За крупную бытовую технику Hyundai – крупные бонусы
Суперцена для партнеров diHouse: MacBook Pro 13 за 109 000*
Супербонусы на пылесосы
Кухонные истории
Как ни мечи – не найдешь лучше нашей печи

Как ни мечи – не найдешь лучше нашей печи

Уважаемые партнеры! Приглашаем вас принять участие в маркетинговой акции: «Как ни мечи – не найдешь лучше нашей печи». Период действия акции: 1 - 30 апреля 2025 г. Получите бонусы до 5% за закупку СВЧ и мини-печей Hyundai и STARWIND в зависимости от объемов закупок. Список участвующих ...
Rondell: изысканная кухня
«Крупные бонусы 2.0»: продолжение акции от Gorenje
27 подарочных дюймов
Полноцветные скидки
В Южную Африку с Ippon!

В Южную Африку с Ippon!

Уважаемые партнеры! Приглашаем вас принять участие в маркетинговой акции: «В Южную Африку с Ippon!». Призовой фонд: По итогам программы 5 партнёров с наибольшим объёмом закупок и 5 партнёров с наибольшим приростом в рублях к предыдущему году отправятся в увлекательное путешествие на крайний юг ...
Новый уровень игры 2.0
Промоакция Rapoo для партнеров diHouse
ОКЛИК и GMNG: Выбирай себе подарок!
Распродажа трансиверов Future Technologies формата XFP
Весенняя формула: «Холодильники Hyundai = бонусы»

Весенняя формула: «Холодильники Hyundai = бонусы»

Уважаемые партнеры! Приглашаем вас принять участие в маркетинговой акции. Закупайте холодильники Hyundai в Merlion и получите бонусы: 5% при закупке 10 единиц и 10% при закупке 20 единиц (при закупке не менее 5 разных SKU). Период действия акции: 03 - 31 марта 2025 г.* - ...
«Крупные бонусы»: акция от Gorenje
Выгодная парочка iRU
Бонусы от Dahua!
Бонусная программа от Gigabyte!
Знакомство с Поднебесной вместе с NETLAB!

Знакомство с Поднебесной вместе с NETLAB!

Покупайте продукцию Dahua и получите возможность выиграть поездку в Китай с посещением штаб-квартиры Dahua Technology. Победители будут выбираться в трех номинациях: 1. Самый большой оборот 4 дилера с наибольшим объемом закупок продукции Dahua в период проведения акции, на сумму не менее 150 000$ ...
Непревзойденный уровень комфорта с игровой мебелью Defender!
Бонус на кончиках пальцев
Hyundai: комплектом выгоднее!
Время бонусов
12345Все

Языковые модели на периферии как способ разгрузить дата-центры

27.09.2024  Экспертиза, Интернет, Искусственный интеллект, Мобильные и беспроводные решения

Локальные системы искусственного интеллекта, известные как «LLMs on the edge» (большие языковые модели на периферии), могут помочь снизить нагрузку на дата-центры, но может пройти некоторое время, прежде чем этот подход станет мейнстримом, отмечают опрошенные порталом Data Center Knowledge эксперты. Проблема, которую представляет собой ИИ для дата-центров, освещается достаточно широко. Одним из способов снизить нагрузку является использование LLM на периферии, то есть позволить системам ИИ работать на ПК, планшетах, ноутбуках, смартфонах и других устройствах. Очевидные преимущества LLM на периферии включают в себя снижение стоимости обучения LLM, уменьшение задержки при запросах к LLM, повышение конфиденциальности пользователей и надежности. Если такие локальные решения смогут снизить нагрузку на дата-центры за счет уменьшения требований к вычислениям, то смогут устранить необходимость в многогигаваттных ЦОД-фабриках. Но действительно ли такой подход осуществим? В связи с расширяющейся дискуссией о переносе LLM, лежащих в основе генеративного ИИ (GenAI), на периферию, мы рассмотрим, действительно ли такой перенос может снизить нагрузку на дата-центры. Смартфоны прокладывают путь периферийному ИИ Майкл Азофф, главный аналитик практики исследований облачных вычислений и дата-центров компании Omdia, говорит, что наиболее быстро развивающийся сценарий использования ИИ на периферии — это легкие LLM на смартфонах. Huawei разработала различные варианты размеров своей LLM Pangu 5.0 ... читать далее.

Рекомендовано к прочтению


Агентные IDE: следующий рубеж в интеллектуальном кодировании
Александр Уильямс, разработчик полного стека и независимый ИТ-консультант, рассказывает на портале The New Stack о том, как искусственный интеллект превращает интегрированные среды разработки (IDE) из помощников в автономных коллабораторов, меняя будущее создания ПО. IDE прошли долгий путь ...

Четыре ключевых урока пандемии для будущего цифрового бизнеса
Чтобы преуспеть, технологические руководители должны усвоить четыре ключевых урока, которые преподала нам цифровая лихорадка, вызванная пандемией, пишет на портале The New Stack Саймон Гримм, независимый разработчик и инструктор. Пять лет назад пандемия COVID заставила компании провести масштабные ...

ИИ в реальном секторе: что акцентируют вопросы безопасности. Часть IИИ в реальном секторе: что акцентируют вопросы безопасности. Часть I
В последнее время активно обсуждают проблематику безопасности при внедрении ИИ в бизнес-процессы. «Внедрение технологий „искусственного интеллекта“ в бизнес-процессы компаний неизменно сопровождается вызовами кибербезопасности, — говорит Сергей Лебедь, вице-президент „Сбера“ по кибербезопасности ...

Фронтенд становится “умнее”: ИИ-революция в JavaScript
Искусственный интеллект совершает революцию в разработке фронтенда, привнося возможности машинного обучения непосредственно в браузеры и превращая веб-приложения в интеллектуальный, адаптивный опыт, пишет на портале The New Stack Александр Уильямс, разработчик полного стека и независимый ...

ИИ-решения в металлургической областиИИ-решения в металлургической области
Федеральный центр прикладного развития Искусственного Интеллекта представил отчет о деятельности в 2024 г. В нем, в частности приведены примеры внедрения ИИ-решений в металлургической отрасли. Опыт внедрения ИИ-решений в промышленности: 35% предприятий имеют опыт внедрения ИИ-решений; 40% не ...
     
Агентные IDE: следующий рубеж в интеллектуальном кодировании
Александр Уильямс, разработчик полного стека и независимый ИТ-консультант, рассказывает на портале The New Stack о том, как искусственный интеллект превращает интегрированные среды разработки (IDE) из помощников в автономных коллабораторов, меняя будущее создания ПО. IDE прошли долгий путь ...

Четыре ключевых урока пандемии для будущего цифрового бизнеса
Чтобы преуспеть, технологические руководители должны усвоить четыре ключевых урока, которые преподала нам цифровая лихорадка, вызванная пандемией, пишет на портале The New Stack Саймон Гримм, независимый разработчик и инструктор. Пять лет назад пандемия COVID заставила компании провести масштабные ...

DevOps: нанимать инженера или передавать на аутсорсинг — что выгоднее для бизнеса?DevOps: нанимать инженера или передавать на аутсорсинг — что выгоднее для бизнеса?
Функция DevOps в компаниях может быть как штатной, так и переданой на аутсорсинг. Со своими прямыми задачами она будет справляться в обоих случаях, но нужно понимать, в каком случае собственная DevOps-команда действительно необходима, а в каких 一 дешевле и разумнее воспользоваться услугами ...

GigaOM: лучшие игроки рынка управления неструктурированными данными в 2025 годуGigaOM: лучшие игроки рынка управления неструктурированными данными в 2025 году
Согласно отчету GigaOM «2025 Radar for Unstructured Data Management», более 30% ИТ-бюджета большинства организаций расходуется на хранение данных. Учитывая, что объемы данных ежегодно растут на 55-65%, компании должны найти способы сократить эти расходы и раскрыть скрытый потенциал ...

Фронтенд становится “умнее”: ИИ-революция в JavaScript
Искусственный интеллект совершает революцию в разработке фронтенда, привнося возможности машинного обучения непосредственно в браузеры и превращая веб-приложения в интеллектуальный, адаптивный опыт, пишет на портале The New Stack Александр Уильямс, разработчик полного стека и независимый ...

Лидеры читательского рейтинга

Подборка по дате

Апрель 2025
ПнВтСрЧтПтСбВс
 123456
78910111213
14151617181920
21222324252627
282930    

© 1991–2025 ITRN (Российская служба ИТ-новостей). 109147 г. Москва, ул. Марксистская, 34, строение 10. Телефон: +7 495 974-22-60. Факс: +7 495 974-22-63. Электропочта: itrn@itrn.ru.
Версия 20.5.  Создание сайта — студия iMake.