Пропустить до основного содержимого



VLC достиг 6 миллиардов загрузок и реализовал автоматическую генерацию субтитров

Проект VideoLAN сообщил о преодолении рубежа в шесть миллиардов загрузок видеоплеера VLC, зафиксированных системой сбора статистики, работающей на серверах проекта с февраля 2005 года. Около 4.8 миллиардов загрузок приходится на сборку VLC для платформы Windows, 380 млн - macOS и 6.8 млн на архив с исходными текстами. Опубликованные данные не учитывают загрузку VLC для Linux, так как большинство Linux-пользователей VLC получает данный видеоплеер через штатные репозитории своих дистрибутивов. Наиболее популярной версией VLC является 3.0.16, которая была загружена 416 млн раз (для сравнения последний выпуск 3.0.21 был загружен 373 млн раз, 3.0.20 - 370 млн, 3.0.19 - 51 млн, а выпуск 3.0.0 - 6.8 млн).

opennet.ru/opennews/art.shtml?…

yesfreenet поделился этим.



Скрытая командная оболочка в синтезаторе Yamaha, позволяющая выполнить код через MIDI

Анна Антоненко, занимающаяся разработкой встраиваемых систем и в свободное время развивающая операционную систему BOSS (BEAM-based Operating System with Security), опубликовала результаты обратного инжиниринга музыкального синтезатора Yamaha PSR-E433. В ходе проведённой работы в синтезаторе был выявлен обфусцированный shell-интерфейс, позволивший организовать выполнение своего кода на уровне прошивки. Доступ к shell-интерфейсу осуществляется посредством отправки MIDI-пакетов с сообщениями SysEx, которые можно передать при подключении синтезатора через порт USB. Полученные в ходе обратного инжиниринга сведения о чипе и прошивках, а также примеры кода и отладочные дампы размещены на GitHub.

opennet.ru/opennews/art.shtml?…

в ответ на OpenNet

> Гуманитарная болтовня. Инструмент - это инструмент. Мировосприятие и эстетика - это в РГУ на факультет филологии, пара и соплей.

Это мы ставим в статус



Вкусная аюрведическая ртуть

И полезная. Как иначе-то, древнее знание, миллионы не могут ошибаться и всё такое. В целом отравиться металлической ртутью и правда очень сложно, в основном опасны её пары и некоторые соли, причём там ещё будет разница в токсичности между валентностями и прочими химическими нюансами.

Чего я про ртуть вспомнил - перед НГ наконец-то записались для канала «Жиза», где среди прочего вспоминали и про ртуть. В первую очередь, конечно, про разбитые термометры, но и про прочие аспекты тоже. Забыл рассказать на камеру про один интересный и весьма показательный случай, вот, восполняю пробел. Да и себе напоминалку для лекций сделаю.

В бананово-лимонном Сингапуре жил 28-летний юноша, работавший авиационным инженером. И всё бы ничего, но подташнивать его стало в последнее время. И кал становился всё более странным. С металлическим отливом. И характерным позвякиванием. Причём сверкающих серебристых включений с каждым днём становилось всё больше и больше. Поскольку он лежал не в нашей стране, кликуху Серебряное Копытце (и это в лучшем случае) врачи ему не дали и стали просто так обследовать.

После чего намерили 26,1 мкг/л ртути в моче. Не то, чтобы прям запредельно много, норма - менее 10 мкг/л, а токсической считается концентрация от 50 мкг/л, но подташнивание, а также присоединившиеся к нему вялость и тремор конечностей вполне можно было объяснить. После рентгенографии сомнения отпали - толстая кишка была забита характерными шариками ртути.

Из чего было понятно, что пациент ел ртуть. Проведенное расследование показало, что тёща пыталась зятя отравить оздоровить при помощи аюрведического лекарства, содержащего металлическую ртуть. Чтобы зятёк окончательно скопытился стал здоровым, заботливая родственница со стороны жены в еду ему подкидывала ещё примерно по 3 столовых ложки ртути. Потому что древнее индийское знание, а не вот это ваше всё.

Разовая акция прошла бы незамеченной, но поскольку тёща была настойчивой, оздоровительный курс продолжался 12 недель, после чего даже максимально нетоксичная металлическая ртуть начала давать побочки. Всё-таки частично шло испарение, частичная ионизация тоже присутствовала, и на такой длительной экспозиции токсикологические последствия всё-таки наступили.

Никакой особой детоксикации в стационаре не потребовалось, просто спрятали мужика от чрезмерно заботливой тёщи, и уровень ртути в моче начал уверенно снижаться. Через 4 недели - до 20,5 мкг/л, через 2 года - 3,3 мкг/л. Ну и клиника соответственно тоже стала уходить, через 8 недель тошнота, вялость и тремор прошли.

О дальнейшей судьбе тёщи ничего не известно, можно дофантазировать самостоятельно. Не стесняйтесь и не сдерживайтесь, она прям заслужила ;)

src: t.me/dr_voenvrach/2913

поделились этим




Мэтью Гаррет опроверг критику TPM, распространяемую Фондом СПО

Мэтью Гаррет (Matthew Garrett), разработчик ядра Linux, в 2013 году получивший премию Фонда СПО за вклад в развитие свободного ПО, пояснил суть работы современных технических средств защиты авторских прав (DRM), используемых видеосервисами. К написанию статьи Мэтью подтолкнули встречающиеся в обиходе предубеждения, связывающие DRM c использованием криптопроцессоров (TPM, Trusted Platform Module).

opennet.ru/opennews/art.shtml?…

в ответ на OpenNet

> Мэтью Гаррет не знает, чем на самом деле руководствуется Microsoft, требуя TPM в Windows 11…

Следующий!



Выпуск ZLUDA 4, универсальной реализации технологии CUDA

Анджей Яник (Andrzej Janik) представил обновление проекта ZLUDA, развивающего открытую реализацию технологии CUDA. Целью проекта является предоставление возможности запуска немодифицированных приложений CUDA на системах с GPU, отличных от GPU NVIDIA, с производительностью, близкой к производительности приложений, выполняемых без прослоек. Код проекта распространяется под лицензиями MIT и Apache 2.0.

opennet.ru/opennews/art.shtml?…



Предварительный выпуск мессенджера Pidgin 3.0

Опубликован первый экспериментальный выпуск клиента для мгновенного обмена сообщениями Pidgin 3.0 (2.90), позволяющего одновременно работать в нескольких сетях с разными протоколами и переключаться между чатами при помощи вкладок. Для расширения функциональности и добавления поддержки новых протоколов могут использоваться плагины. Сборки будут подготовлены в формате Flatpak (пока доступен только архив с кодом). Второй текстовый выпуск Pidgin 3.0 намечен на 31 марта.

opennet.ru/opennews/art.shtml?…



в ответ на :blobspy:

Вроде и смищно, но лично я только в этом году допетрил, что именно символизирует эта иконка...
Источник неизвестен

mastodon - Ссылка на источник
𝙹𝚘𝚑𝚊𝚗
Именно. Но в России такое не встречается совсем от слова вообще (ну, буховские архивы в коробках из-под A4 не в счет).


Спасибо что посмотрели Гарри Поттер и таймаут https, ой, то есть Гарри Поттер и тайная комната / Harry Potter and the Chamber of Secrets, 2002

Начинаем прием заявок на следующий вечерний киносеанс, запланированный на 05.01.2025 в 21:00 по Москве.

Напоминаем правила:
- Мы принимаем на просмотр полнометражные художественные фильмы;
- Прием варианта осуществляется путем публикации ссылки на этот фильм на IMDB libremdb.leemoon.network/ или Кинопоиске в этом треде;
- Нам не подходят: сериалы, короткометражные и документальные фильмы;
- Максимальное количество вариантов, предложенных одним человеком не должно превышать 3;
- Всего может быть собрано до 60 фильмов;
- Заявки принимаются до крайнего срока, после чего будет объявлено голосование по собранным вариантам.

Крайний срок подачи заявки - 16:00 31.12.2024 по Москве.
Рекомендуем посетить список, чтобы случайно не предложить уже просмотренный фильм: pub.phreedom.club/~localhost/f…

Желаем удачи.

@rf
Fediverse Movie Night Воскресен…

Эта запись была отредактирована (10 мес. назад)

Dr. Quadragon ❌ поделился этим.

в ответ на тёплый ветер тихо воет

✅ Принято: Ирония судьбы, или С легким паром! / Ironiya sudby, ili S legkim parom!, 1976
Благодарим за ваше предложение!


Первый стабильный выпуск эмулятора терминала Ghostty

Опубликован первый стабильный выпуск эмулятора терминала Ghostty, примечательный задействованием GPU для ускорения отрисовки содержимого. Автор Ghostty пытается воплотить в одном приложении три качества - высокую производительность, обширную функциональность и интерфейс, выглядящий родным для каждой поддерживаемой платформы. Код проекта написан на языке Zig и распространяется под лицензией MIT. Готовые сборки сформированы для Linux и macOS.

opennet.ru/opennews/art.shtml?…

в ответ на OpenNet

А нахрена терминалу рисоваться на GPU? Ебанулись, конечно.


Доля расходов Linux Foundation на разработку ядра уменьшилась в 2024 году до 2.3%

Организация Linux Foundation опубликовала годовой отчёт. За год организация заработала 292.2 млн. долларов (год назад - $263.6 млн), а израсходовала 299.7 млн долларов (год назад - $269 млн). Затраты на разработку ядра Linux составили 6.8 млн. долларов, что на миллион долларов меньше, чем в прошлом году и на 1.4 млн. долларов меньше, чем в позапрошлом году. Общая доля затрат, связанных с разработкой ядра, среди всех расходов снизилась до 2.3%. Для сравнения доля расходов на ядро в 2023 году составляла 2.9%, в 2022 - 3.2%, а в 2021 - 3.4%.

opennet.ru/opennews/art.shtml?…

в ответ на OpenNet

То есть из всех денег разработчикам идёт только 2.3%?


Формат сжатия FLAC официально закреплён в RFC 9639

Комитет IETF (Internet Engineering Task Force), занимающийся развитием протоколов и архитектуры интернета, завершил формирование RFC для свободного звукового кодека FLAC (Free Lossless Audio Codec), разработанного сообществом Xiph.Org. Связанная с форматом спецификация опубликована под идентификатором RFC 9639. RFC получил статус "Предложенного стандарта" и описывает существующее состояние формата сжатия FLAC, за исключением явного добавления поддержки 32-разрядного звука и введения ограничений для его адаптации.

opennet.ru/opennews/art.shtml?…

поделились этим



Представлен открытый голосовой AI-ассистент Home Assistant Voice

Проект Home Assistant, развивающий.

opennet.ru/opennews/art.shtml?…

yesfreenet поделился этим.



Опубликован BoN, метод обхода фильтров больших языковых моделей

Выявлен новый метод атаки, позволяющий обойти механизмы противодействия генерации опасного контента, применяемые в AI-сервисах на основе больших языковых моделей. Метод, который получил кодовое имя BoN (Best-of-N), при тестировании на 10 тысячах запросов позволил обойти ограничения модели GPT-4o в 89% случаев, модели Claude 3.5 Sonnet - в 78%, а Gemini Pro - в 50%. Инструментарий для проведения атаки опубликован под лицензией MIT.

opennet.ru/opennews/art.shtml?…

𝙹𝚘𝚑𝚊𝚗 поделился этим.



В Firefox прекращена поддержка настройки Do Not Track

В ночных сборках Firefox, на базе которых 4 февраля будет сформирован релиз Firefox 135, со страницы с настройками приватности (about:preferences#privacy) убрана опция, позволявшая включить отправку сайтам HTTP-заголовка "Do Not Track" ("DNT"). Заголовок DNT информирует сайты о нежелании пользователя передавать на хранение сведения, которые могут использоваться для отслеживания перемещений и предпочтений.

opennet.ru/opennews/art.shtml?…

yesfreenet поделился этим.

в ответ на OpenNet

Видимо, все пользователи Firefox переехали в Калифорнию.



Порт Firefox принят в состав официального репозитория ОС Haiku

Группой разработчиков ОС Haiku был подготовлен и принят к публикации первый общедоступный порт браузера Mozilla Firefox. Совместными усилиями в процессе подготовки порта были внесены изменения как в базовую систему, так и в другие используемые порты, например в прослойку Wayland для Haiku, подготовленную разработчиком x512.

opennet.ru/opennews/art.shtml?…

в ответ на OpenNet

Вот! Как раз думаю что Хaику - самое то для старого железа на котором линупс уже не торт, из-за отсутствия OpenGL 3+ и SSE4.2/AVX.


Ошибка в обработчике GitHub Actions привела к публикации вредоносных релизов Ultralytics

Злоумышленники смогли выполнить код с правами обработчика GitHub Actions в репозитори Python-библиотеки Ultralytics, применяемой для решения задач компьютерного зрения, таких как определение объектов на изображениях и сегментирование изображений. После получения доступа к репозиторию атакующие опубликовали в каталоге PyPI несколько новых релизов Ultralytics, включающих вредоносные изменения для майнинга криптовалют. За последний месяц библиотека Ultralytics была загружена их каталога PyPI более 6.4 млн раз.

opennet.ru/opennews/art.shtml?…

yesfreenet поделился этим.



Компания Collabora представила Apertis 2024.3, дистрибутив для электронных устройств

Компания Collabora представила Linux-дистрибутив Apertis 2024.3, изначально созданный для оснащения автомобильных устройств, но затем переориентированный для более широкого спектра электронных устройств, встраиваемой техники и промышленного оборудования. Из устройств, в которых применяется Apertis, отмечены игровая консоль Atari VCS и сканер для обнаружения объектов в стенах Bosch D-tect 200.

opennet.ru/opennews/art.shtml?…



Выпуск проприетарного драйвера NVIDIA 565.77

Компания NVIDIA опубликовала стабильный выпуск новой ветки проприетарного драйвера NVIDIA 565.77. Драйвер доступен для Linux (ARM64, x86_64), FreeBSD (x86_64) и Solaris (x86_64). NVIDIA 565.x стала восьмой стабильной веткой после открытия компанией NVIDIA компонентов, работающих на уровне ядра. Исходные тексты модулей ядра nvidia.ko, nvidia-drm.ko (Direct Rendering Manager), nvidia-modeset.ko и nvidia-uvm.ko (Unified Video Memory) из новой ветки NVIDIA, а также используемые в них общие компоненты, не привязанные к операционной системе, размещены на GitHub. Прошивки и используемые в пространстве пользователя библиотеки, такие как стеки CUDA, OpenGL и Vulkan, остаются проприетарными.

opennet.ru/opennews/art.shtml?…



Учение — свет: в MIT создали фотонный процессор для ИИ с высокой скоростью и низким потреблением

Группа из учёных Массачусетского технологического института и их зарубежных коллег создала, как они утверждают, первый полностью фотонный процессор для приложений искусственного интеллекта. Фотонный процессор работает не хуже аналогов на кремниевых транзисторах, но проводит вычисления с намного меньшим потреблением энергии. Это особенно важно для создания «думающей» периферии — лидаров, камер, устройств связи и другого, к чему теперь открыта прямая дорога.

Читать далее >>> 3dnews.ru/1115034

в ответ на 3DNews

да уже сто раз писали, что кто то там что то придумал с фотоникой. Хочу ноут на таком процессоре! Он будет холодный


Роскомнадзор ограничил доступ к популярным сайтам с аниме-контентом

В сети начали сообщать о блокировке нескольких крупных сайтов для просмотра аниме в России. Среди недоступных ресурсов оказались популярные порталы jut.su , AnimeGO и YummiAnime . Согласно информации агентства ТАСС, сайт jut.su заблокирован Роскомнадзором в рамках Федерального закона №149-ФЗ от 27.07.2006. Однако точный характер запрещённого контента пока не раскрывается. Подтверждения блокировок сайтов AnimeGO и YummiAnime появились позже. Создатели YummiAnime сообщили, что знают о возникших проблемах и работают над их решением:

habr.com/ru/articles/863946/

#роскомнадзор #блокировка_сайтов #аниме_и_манга



Dating Tips for Chatting Online: How to Start a Great Conversation and Keep It Going


Релиз FreeBSD 14.2

После шести месяцев разработки сформирован релиз FreeBSD 14.2. Установочные образы подготовлены для архитектур amd64, i386, powerpc, powerpc64, powerpc64le, powerpcspe, armv7, aarch64 и riscv64. Дополнительно подготовлены сборки для систем виртуализации (QCOW2, VHD, VMDK, raw) и облачных окружений Amazon EC2, Google Compute Engine и Vagrant.

opennet.ru/opennews/art.shtml?…



Выпуск программы для перекодирования видео HandBrake 1.9.0

Опубликован релиз HandBrake 1.9.0, инструмента для многопоточного перекодирования видеофайлов из одного формата в другой. Программа доступна как в варианте, работающем в режиме командной строки, так и в виде GUI-интерфейса. Код проекта написан на языках Си (использует библиотеку GTK4 в Linux и .NET Desktop Runtime в Windows) и распространяется под лицензией GPL. Бинарные сборки подготовлены для Linux (Flatpak), macOS и Windows.

opennet.ru/opennews/art.shtml?…

𝙹𝚘𝚑𝚊𝚗 поделился этим.



Релиз Firefox 133

Состоялся релиз web-браузера Firefox 133 и сформированы обновления прошлых веток с длительным сроком поддержки - 115.18.0 и 128.5.0. На стадию бета-тестирования переведена ветка Firefox 134, релиз которой намечен на 7 января.

opennet.ru/opennews/art.shtml?…

Источник неизвестен

mastodon - Ссылка на источник
far5
@lina
Я тут глянул на IceRaven (форк андроид/ФФ), эта версия основана на 132 как раз. Ну что: для доступа к паролям, к самой панели паролей, требуется пройти дактилоотпечаток. Но на этой версии он действительно глючит: палец прикладываешь - не распознается. Снова и снова. И так нужно тапать мимо запроса раз десять, тогда он просто пропускает. И получаем доступ к сохр. паролям.
Обновился на IR, основанный на версии 133. Защита так же глючит, но когда пропускает, пароли уже не видны, пустая панель.
Форк - это всё-таки не ФФ, может и сломали что при переносе.
Эта запись была отредактирована (11 мес. назад)
Источник неизвестен

mastodon - Ссылка на источник
far5
@lyyn @lina
у меня - нет, не глючит абсолютно, только IR.
Проблема визуально в том, что IR "не понимает", что отпечаток правильно распознался, и требует повторить снова, снова, снова. Ввод "пароля от локскрина" тоже не помогает... в общем, это какой-то баг.


Технический комитет Linux Foundation официально объявил о временном отстранении автора BсacheFS

Управляющий технический комитет организации Linux Foundation (Technical Advisory Board) объявил об ограничении участия Кента Оверстрита, автора BсacheFS, в разработке ядра через запрет приёма pull-запросов на протяжении цикла формирования релиза 6.13. Решение принято на основе рекомендации комитета, отвечающего за соблюдение кодекса поведения в сообществе разработчиков ядра Linux (CoC Committee). Подтверждено, что причиной отстранения стало оскорбление Михала Хочко без последующего подтверждения способности дальнейшего участия в технических дискуссиях без личных нападок.

opennet.ru/opennews/art.shtml?…

в ответ на OpenNet

Скатертью дорога. Звездец какой нашёлся — то процессы под него подстроить надо, то эго погладить. :blobfoxpolice:


Автора BcacheFS временно отстранили от разработки ядра Linux из-за нарушения кодекса поведения

Кент Оверстрит (Kent Overstreet), разработчик ФС Bcachefs, сообщил, что будущее развиваемой им файловой системы в ядре под вопросом из-за действий комитета, отвечающего за соблюдение кодекса поведения в сообществе разработчиков (CoC Committee). Линус Торвальдс отказался принимать очередной набор исправлений к Bcachefs в состав ветки ядра 6.13, сославшись на наличие претензий со стороны комитета CoC.

opennet.ru/opennews/art.shtml?…

в ответ на OpenNet

неизбежное случилось, всё то, к чему вели новости о #bcachefs. Судя по моим познаниям фс крутая, но некоторые действия разрабов приводят к таким последствиям



Представлена технология охлаждения чипов светом — секретная и только по предварительной записи

На конференции по высокопроизводительным вычислениям SC24 в Атланте пионер в технологиях твердотельного фотонного охлаждения чипов Maxwell Labs сообщил о готовности лицензировать свою уникальную технологию заинтересованным компаниям. С её помощью тепло от процессоров и графических ускорителей в ЦОД можно превращать в световое излучение, собирать с помощью фотоэлектрических ячеек, преобразовывать в электричество и снова использовать в работе.

Читать далее >>> 3dnews.ru/1114386

в ответ на 3DNews

я прям так охуел, что не выхуел до сих пор 😀 Интересно, обычные тепловые насосы насколько были бы в этом смысле эффективны



Ну картошечку люблю, а зрение и так минус десять

Водку НЕ люблю (вообще из алкоголя можно пить только вино и сидр, остальное - игрушка дьявола), а любые шутки по определению осуждаю

Тишина - буквально главная ценность в жизни нормального человека, чейндж май майнд

Седые волосы в бороде (уже начали в личке шутить шутники)

src: t.me/gus_vasili/3978

𝙹𝚘𝚑𝚊𝚗 поделился этим.



Разработчики Ubuntu проанализировали эффективность включения PGO-оптимизации

Компания Canonical опубликовала результат оценки изменения производительности при пересборке пакетов с включением оптимизации на основе результатов профилирования кода (PGO - Profile-guided optimization), позволяющей генерировать более оптимальный код на основе анализа особенностей выполнения программы. В ходе проделанной работы был сделан вывод, что включение PGO-оптимизации позволило на 5-7% снизить нагрузку на CPU и ускорить время сборки.

opennet.ru/opennews/art.shtml?…

в ответ на OpenNet

Помнится я использовал PGO при сборке 3Д рендерера, профилируя на конкретных сценах которые я собираюсь обсчитывать. Не помню конкретные цифры, но время рендеринга уменьшалось значительно.


Arch Linux переводит сценарии сборки пакетов на лицензию 0BSD

Разработчики дистрибутива Arch Linux объявили о решении перевести весь исходный код компонентов, используемых для формирования пакетов, таких как файлы PKGBUILD, ".install" и ".desktop", на лицензию 0BSD, которую можно рассматривать как аналог перевода в общественное достояние. Ранее исходный код сценариев сборки пакетов в Arch Linux распространялся без указания лицензии, что приводило к неопределённости, позволяло по разному трактовать возможность их использования и создавало проблемы при желании задействовать их в других проектах, имеющих строгую лицензионную политику.

opennet.ru/opennews/art.shtml?…


Источник неизвестен

mastodon - Ссылка на источник
:blobspy:
@shuro а что если более умные люди уже догадались запилить каокй-то кофе-тред по определенному тегу и лучше отвечать туда а не в общую ленту постоянно? Может @b000ka в теме или @mo есть тред для кофе? Или просто тег #кофе?
в ответ на :blobspy:

не очень понимаю смысл какого-то единого кофе-треда.

Можно тег "кофе" юзать, да.

@shuro @mo



OpenAI ищет новые пути борьбы с замедлением развития ИИ

По сообщениям сетевых источников, следующая большая языковая модель (LLM) компании OpenAI не совершит такого значительного скачка вперёд по сравнению с её предшественницами. На этом фоне OpenAI сформировала группу разработчиков, которым поручено проработать возможные пути дальнейшего развития и совершенствования нейросете.

Читать далее >>> 3dnews.ru/1113780

в ответ на 3DNews

да не будет никакого скачка в ближайшее время. Весь скачек был совершен конторой nvidia, которая сильно увеличила производительность вычислений, работа нейронок в целом была выдумана тридцать лет назад, сейчас только мелочами вроде механики внимания побаловались. Ждем когда ARM поднимет производительность еще раз в десять пока нвидиа будет жадничать.
в ответ на Roman

если бы openai были реальной революцией не было бы вагона альтернатив не хуже. Да, вторая часть солянки это бигдата интернетная, без него нейронки учить было бы не на чем. Сам же опенаи и все эти "гуру интеллекта" яйца выеденного не стоят, железо+данные, вот, что важно.




System76 представила рабочую станцию Thelio Astra со 128-ядерным Arm-чипом Ampere Altra

Компания System76 анонсировала настольную рабочую станцию Thelio Astra, предназначенную прежде всего для создания ПО для автомобильного сектора. Особенность новинки заключается в использовании процессора с архитектурой Arm. Отмечается, что в большинстве современных автомобилей применяется бортовое оборудование, оснащённое Arm-чипами. Благодаря Thelio Astra разработчики софта для Arm-платформ смогут отказаться от применения эмуляторов, которые необходимы при работе на компьютерах с х86-процессорами. Это ускорит и сделает более удобным создание новых программных продуктов для транспортной отрасли.

Читать далее >>> 3dnews.ru/1112878

в ответ на burbilog

@burbilog подскажи пожалуйста, а ллмки могут работать распределенно? На нескольких компах запустить.
в ответ на Roman

@3draven вроде как да, но как именно изучать надо, я про это только пару раз на reddit в коммьюнити locallama упоминания видел, самому не на чем экспериментировать

но зачем? в локальном виде 3.1 ты 8b версию на одной видюхе спокойно запустишь, а старшие версии не так чтобы в порядок лучше были. я где-то потыкал в 405b, она меня не впечатлила (может я зажрался после соннета 3.5 конечно, не знаю)

на huggingface можно поиграть с этим бесплатно, там интересный набор моделей есть, в т. ч. 3.2 vision, qwen2.5 и еще несколько

в ответ на burbilog

@burbilog я тут выяснил, что армовские снапдрагон элит NPU дают 45топсрв производительности. То есть два таких, работающих в паралель уже бюджетная видяха почти. Вот бы просто платы расширения с NPU стали выпускать на армах. Правда арм с квалкомом посорилась и неясно что там дальше будет.
в ответ на Roman

@3draven NPU нельзя напрямую сравнивать с GPU по TOPS. начнем с того, что TOPS — это теоретическая максимальная производительность, которая редко достигается на практике. опять же, сравнивать напрямую TOPS для разных архитектур, предназначенных для разных типов вычислений, нельзя. высокий показатель TOPS у NPU не гарантирует, что он будет быстрее GPU при выполнении задач, связанных с LLM

потом проблема в паттернах доступа к памяти и пропускная способность. VRAM не просто так отличается от обычного RAM, она заточена под параллельный доступ, более сложный контроллер (кстати, сама VRAM сейчас очень дешевая) и значительно более высокую пропускную способность. NPU же часто ограничены более простыми схемами работы с памятью

ну и имхо главное -- если бы армовцы или квалкомовцы могли бы своими NPU откусить жирнющщий кусок LLM рынка, они бы это уже сделали

я уж не говорю о том, что даже будь в принципе возможен запуск LLM на NPU, пилить софт него уйдут года. вон AMD вроде как делает свои карты, но все ругаются на софт и говорят что хлам и малоюзабельно. а NPU еще и разные, у ARM есть свой, у Qualcomm свой. где эти человеко-века взять?

в ответ на burbilog

@burbilog stable diffusion работает, опенвино то же. Что то ты странное пишешь, но я не шибко погружен в тему, не знаю.
в ответ на Roman

@3draven LLM требуют постоянного доступа к большим объемам весов модели, размеры моделей и объемы промежуточных вычислений сильно различаются

то есть сам факт, что это инференс, не делает задачи эквивалентными с точки зрения требований к аппаратному обеспечению

This website uses cookies to recognize revisiting and logged in users. You accept the usage of these cookies by continue browsing this website.