Victor Kuriashkin

XGBoost, python и AttributeError: 'NoneType' object has no attribute 'XGDMatrixFree'

2015-12-01T01:42:00.002-08:00

XGBoost - одно из популярнейших средств для data mining в последние полгода-год.
Это нативная библиотека + врапперы для всяких python, R, и даже Java!

В случае python, причем - "Иногда" с ним бывают проблемы, как то:

[2999]  cv-test-rmspe:0.171434+0.067778 cv-train-rmspe:0.038854+0.000129                                                                                                                                           
Exception ignored in: <bound method DMatrix.__del__ of <xgboost.DMatrix object at 0x7f0aedac27f0>>                                                                                                                 
Traceback (most recent call last):                                                                                                                                                                                 
  File "/usr/local/lib/python3.4/dist-packages/xgboost-0.40-py3.4.egg/xgboost.py", line 188, in __del__                                                                                                            
AttributeError: 'NoneType' object has no attribute 'XGDMatrixFree'

Причем вроде бы все в порядке, и - ошибка "плавающая". То есть иногда, на некоторых данных и в некоторых случаях - падает, а иногда - нет. Почитал я, как народ плачет, и - решил разобраться, как же так.

Рассказываю! )

Ошибка возникает, если в python есть вызов exit() / sys.exit()

Итак. xgboost - штука многопоточная, написанная на openMP

Внутри все очень красиво.

#pragma omp parallel for shared(a, b, c) private(i)
   for (i = 0; i < 100500; i++)
     c[i] = a[i] + b[i];

Красивые аннотации и все такое. Реализация многопоточности от разработчика скрыта. Вопросы синхронизации - вопрос тот еще. Данные в общей памяти, все красиво и удобно.

Как работает при этом Python exit. Он кидает SystemExit. Ну а дальше понятно - xgboost не закончил, а враппер уже получил exception и - бабах!

Варианты лечения:

1) Не лечить. Я серьезно.

2) Поставить time.sleep в python

3) Не использовать exit!

Вообще, конечно, забавно.

КОНТРАСТИВНЫЕ ИССЛЕДОВАНИЯ И ПРИКЛАДНАЯ ЛИНГВИСТИКА

2014-06-30T09:15:00.000-07:00

Здравствуйте! Передаю сообщение нашего коллеги А.В.Зубова (МГЛУ, Минск) о предстоящей конференции. ОМ

--------------------------

Приглашаем принять участие в работе Международной научно-практической конференции «КОНТРАСТИВНЫЕ ИССЛЕДОВАНИЯ И ПРИКЛАДНАЯ ЛИНГВИСТИКА»

Конференция состоится 29–30 октября 2014 года

в Минском государственном лингвистическом университете

(220021, г. Минск, ул. Захарова, 21, ст. метро «Площадь Победы»)

В рамках конференции предполагается обсудить следующие вопросы:

Теоретические аспекты прикладной лингвистики.
Текст и дискурс в контрастивно-типологическом аспекте.
Лексические и грамматические единицы в разных языках и культурах.
Вопросы литературы и культурологии в контрастивном освещении.
Проблемы перевода текстов.
Технологии извлечения информации из Интернета и ее обработка.
Автоматический анализ и синтез текстов.
Корпусные исследования.
Контрастивная лингвистика и вопросы преподавания языков.
Компьютерная лингводидактика.

Рабочие языки конференции: белорусский, русский, английский.

Продолжительность докладов – 20 минут на пленарных заседаниях и 10 минут – на секционных заседаниях.

Расходы на проезд, питание и проживание – за счет участников конференции.

Требования к оформлению заявки и материалов конференции

Текcтовый редактор – Word. Объем – не более 4 страниц с учетом Литературы. Шрифт – Times New Roman. Межстрочный интервал – одинарный. Абзацный отступ – 1,0. Выравнивание по ширине. Поля: верхнее – 2 см, нижнее – 2 см, левое – 3 см, правое – 1,5 см.

Материалы конференции будут опубликованы к ее началу.

Заявку на участие в конференции и материалы доклада просим высылать в электронном варианте по адресу: proscien@mslu.by до 5 июля 2014 года.

Образец Заявки

Фамилия, имя, отчество _____________________________________________

Название доклада __________________________________________________

Место работы (учебы) ______________________________________________

Ученая степень и/или звание ________________________________________

Должность ________________________________________________________

Адрес электронной почты ___________________________________________

Телефон ___________________________________________________________

Необходимость оборудования (компьютер, проектор) ____________________

Гостиница (бронирование, срок проживания) ___________________________

(расположена рядом с университетом)

Шаблон оформления статьи

Инициалы, фамилия (14 пт, курсив)

(Город) (14 пт, курсив)

НАЗВАНИЕ СТАТЬИ (14 пт, полужирный, прописные)

Текст статьи (14 пт)

ЛИТЕРАТУРА (12 пт, прописные)

1. Иванов, М.В. Проблемы компьютерной лингвистики / М.В. Иванов, М.М. Вербов. – М.: Наука, 2004. – 170 с.

Информацию о конференции можно получить по телефонам:

8-10-375-17-284-81-56

8-10-375-29-364-81-56

или по электронной почте: proscien@mslu.by.

ОРГКОМИТЕТ КОНФЕРЕНЦИИ

EEG - even with up/down/left/right movements! )))

2014-06-15T18:16:00.001-07:00

https://www.dropbox.com/s/zbudiu1twmd70cv/data_eeg_mouse_2.tar.gz

tree data
data
├── behavior.dat
├── classes
│ ├── down
│ │ ├── 0_beh.dat
│ │ ├── 0_raw.dat
│ │ ├── 10_beh.dat
│ │ ├── 10_raw.dat
│ │ ├── 11_beh.dat
│ │ ├── 11_raw.dat
│ │ ├── 12_beh.dat
│ │ ├── 12_raw.dat
│ │ ├── 13_beh.dat
│ │ ├── 13_raw.dat

│ │ ├── 14_beh.dat
│ │ ├── 14_raw.dat
│ │ ├── 15_beh.dat
│ │ ├── 15_raw.dat
│ │ ├── 16_beh.dat
│ │ ├── 16_raw.dat
│ │ ├── 17_beh.dat
│ │ ├── 17_raw.dat
│ │ ├── 18_beh.dat
│ │ ├── 18_raw.dat
│ │ ├── 19_beh.dat
│ │ ├── 19_raw.dat
│ │ ├── 1_beh.dat
│ │ ├── 1_raw.dat
│ │ ├── 20_beh.dat
│ │ ├── 20_raw.dat
│ │ ├── 21_beh.dat
│ │ ├── 21_raw.dat
│ │ ├── 22_beh.dat
│ │ ├── 22_raw.dat
│ │ ├── 23_beh.dat
│ │ ├── 23_raw.dat
│ │ ├── 24_beh.dat
│ │ ├── 24_raw.dat
│ │ ├── 25_beh.dat
│ │ ├── 25_raw.dat
│ │ ├── 26_beh.dat
│ │ ├── 26_raw.dat
│ │ ├── 27_beh.dat
│ │ ├── 27_raw.dat
│ │ ├── 28_beh.dat
│ │ ├── 28_raw.dat
│ │ ├── 29_beh.dat
│ │ ├── 29_raw.dat
│ │ ├── 2_beh.dat
│ │ ├── 2_raw.dat
│ │ ├── 3_beh.dat
│ │ ├── 3_raw.dat
│ │ ├── 4_beh.dat
│ │ ├── 4_raw.dat
│ │ ├── 5_beh.dat
│ │ ├── 5_raw.dat
│ │ ├── 6_beh.dat
│ │ ├── 6_raw.dat
│ │ ├── 7_beh.dat
│ │ ├── 7_raw.dat
│ │ ├── 8_beh.dat
│ │ ├── 8_raw.dat
│ │ ├── 9_beh.dat
│ │ └── 9_raw.dat
│ ├── left
│ │ ├── 0_beh.dat
│ │ ├── 0_raw.dat
│ │ ├── 10_beh.dat
│ │ ├── 10_raw.dat
│ │ ├── 11_beh.dat
│ │ ├── 11_raw.dat
│ │ ├── 12_beh.dat
│ │ ├── 12_raw.dat
│ │ ├── 13_beh.dat
│ │ ├── 13_raw.dat
│ │ ├── 14_beh.dat
│ │ ├── 14_raw.dat
│ │ ├── 15_beh.dat
│ │ ├── 15_raw.dat
│ │ ├── 16_beh.dat
│ │ ├── 16_raw.dat
│ │ ├── 17_beh.dat
│ │ ├── 17_raw.dat
│ │ ├── 18_beh.dat
│ │ ├── 18_raw.dat
│ │ ├── 19_beh.dat
│ │ ├── 19_raw.dat
│ │ ├── 1_beh.dat
│ │ ├── 1_raw.dat
│ │ ├── 20_beh.dat
│ │ ├── 20_raw.dat
│ │ ├── 21_beh.dat
│ │ ├── 21_raw.dat
│ │ ├── 22_beh.dat
│ │ ├── 22_raw.dat
│ │ ├── 23_beh.dat
│ │ ├── 23_raw.dat
│ │ ├── 24_beh.dat
│ │ ├── 24_raw.dat
│ │ ├── 25_beh.dat
│ │ ├── 25_raw.dat
│ │ ├── 26_beh.dat
│ │ ├── 26_raw.dat
│ │ ├── 27_beh.dat
│ │ ├── 27_raw.dat
│ │ ├── 28_beh.dat
│ │ ├── 28_raw.dat
│ │ ├── 29_beh.dat
│ │ ├── 29_raw.dat
│ │ ├── 2_beh.dat
│ │ ├── 2_raw.dat
│ │ ├── 30_beh.dat
│ │ ├── 30_raw.dat
│ │ ├── 31_beh.dat
│ │ ├── 31_raw.dat
│ │ ├── 32_beh.dat
│ │ ├── 32_raw.dat
│ │ ├── 3_beh.dat
│ │ ├── 3_raw.dat
│ │ ├── 4_beh.dat
│ │ ├── 4_raw.dat
│ │ ├── 5_beh.dat
│ │ ├── 5_raw.dat
│ │ ├── 6_beh.dat
│ │ ├── 6_raw.dat
│ │ ├── 7_beh.dat
│ │ ├── 7_raw.dat
│ │ ├── 8_beh.dat
│ │ ├── 8_raw.dat
│ │ ├── 9_beh.dat
│ │ └── 9_raw.dat
│ ├── right
│ │ ├── 0_beh.dat
│ │ ├── 0_raw.dat
│ │ ├── 10_beh.dat
│ │ ├── 10_raw.dat
│ │ ├── 11_beh.dat
│ │ ├── 11_raw.dat
│ │ ├── 12_beh.dat
│ │ ├── 12_raw.dat
│ │ ├── 13_beh.dat
│ │ ├── 13_raw.dat
│ │ ├── 14_beh.dat
│ │ ├── 14_raw.dat
│ │ ├── 15_beh.dat
│ │ ├── 15_raw.dat
│ │ ├── 16_beh.dat
│ │ ├── 16_raw.dat
│ │ ├── 17_beh.dat
│ │ ├── 17_raw.dat
│ │ ├── 18_beh.dat
│ │ ├── 18_raw.dat
│ │ ├── 19_beh.dat
│ │ ├── 19_raw.dat
│ │ ├── 1_beh.dat
│ │ ├── 1_raw.dat
│ │ ├── 20_beh.dat
│ │ ├── 20_raw.dat
│ │ ├── 21_beh.dat
│ │ ├── 21_raw.dat
│ │ ├── 22_beh.dat
│ │ ├── 22_raw.dat
│ │ ├── 23_beh.dat
│ │ ├── 23_raw.dat
│ │ ├── 24_beh.dat
│ │ ├── 24_raw.dat
│ │ ├── 25_beh.dat
│ │ ├── 25_raw.dat
│ │ ├── 26_beh.dat
│ │ ├── 26_raw.dat
│ │ ├── 27_beh.dat
│ │ ├── 27_raw.dat
│ │ ├── 28_beh.dat
│ │ ├── 28_raw.dat
│ │ ├── 29_beh.dat
│ │ ├── 29_raw.dat
│ │ ├── 2_beh.dat
│ │ ├── 2_raw.dat
│ │ ├── 30_beh.dat
│ │ ├── 30_raw.dat
│ │ ├── 31_beh.dat
│ │ ├── 31_raw.dat
│ │ ├── 3_beh.dat
│ │ ├── 3_raw.dat
│ │ ├── 4_beh.dat
│ │ ├── 4_raw.dat
│ │ ├── 5_beh.dat
│ │ ├── 5_raw.dat
│ │ ├── 6_beh.dat
│ │ ├── 6_raw.dat
│ │ ├── 7_beh.dat
│ │ ├── 7_raw.dat
│ │ ├── 8_beh.dat
│ │ ├── 8_raw.dat
│ │ ├── 9_beh.dat
│ │ └── 9_raw.dat
│ └── up
│ ├── 0_beh.dat
│ ├── 0_raw.dat
│ ├── 10_beh.dat
│ ├── 10_raw.dat
│ ├── 11_beh.dat
│ ├── 11_raw.dat
│ ├── 12_beh.dat
│ ├── 12_raw.dat
│ ├── 13_beh.dat
│ ├── 13_raw.dat
│ ├── 14_beh.dat
│ ├── 14_raw.dat
│ ├── 15_beh.dat
│ ├── 15_raw.dat
│ ├── 16_beh.dat
│ ├── 16_raw.dat
│ ├── 17_beh.dat
│ ├── 17_raw.dat
│ ├── 18_beh.dat
│ ├── 18_raw.dat
│ ├── 19_beh.dat
│ ├── 19_raw.dat
│ ├── 1_beh.dat
│ ├── 1_raw.dat
│ ├── 20_beh.dat
│ ├── 20_raw.dat
│ ├── 21_beh.dat
│ ├── 21_raw.dat
│ ├── 22_beh.dat
│ ├── 22_raw.dat
│ ├── 23_beh.dat
│ ├── 23_raw.dat
│ ├── 24_beh.dat
│ ├── 24_raw.dat
│ ├── 25_beh.dat
│ ├── 25_raw.dat
│ ├── 26_beh.dat
│ ├── 26_raw.dat
│ ├── 27_beh.dat
│ ├── 27_raw.dat
│ ├── 28_beh.dat
│ ├── 28_raw.dat
│ ├── 2_beh.dat
│ ├── 2_raw.dat
│ ├── 3_beh.dat
│ ├── 3_raw.dat
│ ├── 4_beh.dat
│ ├── 4_raw.dat
│ ├── 5_beh.dat
│ ├── 5_raw.dat
│ ├── 6_beh.dat
│ ├── 6_raw.dat
│ ├── 7_beh.dat
│ ├── 7_raw.dat
│ ├── 8_beh.dat
│ ├── 8_raw.dat
│ ├── 9_beh.dat
│ └── 9_raw.dat
├── eeg_raw.dat
└── eeg_spectr.dat

5 directories, 251 files

Where in the root - 2 files with behavior and raw data (and with summary, it is not used), and inside - splitted by behavior class.

Framework for eeg-capturing - first working dataset

2014-06-15T17:55:00.002-07:00

Framework for eeg- capture and behavior syncing is completed, so, first machine learning - ready dataset :-)

(simple one-channel device, raw data)

https://www.dropbox.com/s/61c4k8g3edh4h5r/data_eeg_mouse_1.tar.gz

Funny, if somebody will make a diagnosis )))))

2014-06-05T06:18:00.004-07:00

http://runkeeper.com/activity?userId=9308628&trip=367783019

Национальный корпус русского языка объявляет конкурс проектов дизайна страниц корпуса

2014-06-04T05:26:00.001-07:00

Дорогие коллеги!

Пожалуйста, доведите эту информацию до всех, кто может быть в ней заинтересован.

Национальный корпус русского языка объявляет конкурс проектов дизайна страниц корпуса в трех номинациях:

Лучший проект дизайна страниц форм запроса.

Лучший проект дизайна поисковой выдачи.

Лучший проект дизайна мобильной версии корпуса.

К участию в конкурсе представляются страницы HTML + CSS + JavaScript (при необходимости скрипты серверной части). Макеты в графических форматах (jpg, gif и т.д.) не рассматриваются.

Принимать участие в конкурсе могут как отдельные разработчики, так и творческие коллективы (физические и юридические лица). Численность коллектива не ограничивается.

Представленные на конкурс проекты должны сохранять всю существующую функциональность страниц (как запроса, так и выдачи), иметь современный, приятный и удобный дизайн. Приоритет будет отдаваться работам, которые смогут расширить возможности интерфейса в следующих направлениях:

Авторизация пользователей (добровольная). У авторизованных пользователей должна появиться возможность хранить историю запросов, заданных подкорпусов и прочих настроек поиска и выдчи, комментировать новости на соответствующей странице.

Упрощенный интерфейс выбора подкорпуса и выбора тегов/значений из списков. В идеале весь запрос вместе с выбором подкорпуса должен формироваться на одной странице. При этом должна быть возможность генерировать списки значений для метаатрибутов автоматически по метатаблице.

Поиск по структурированным метаданным: авторам, издательствам и т. д.

Удобная система помощи и подсказок. Примеры запросов.

Опция показа пользователю грамматической и семантической информации о слове в формате выдачи KWIC (при словах, отвечающих запросу, и/или при словах ближайшего контекста). Информация должна содержаться в верстке страницы, а не во всплывающем окне.

Опция поиска по всем корпусам с учетом общих для всех корпусов параметров.

Работы должны быть представлены не позднее 15 октября 2014 года. Их следует присылать на электронный адрес info@ruscorpora.ru. Итоги конкурса будут подведены 31 октября 2014 года.

По всем вопросам следует обращаться на форум корпуса: http://studiorum.ruscorpora.ru/forum/.

В случае победы в конкурсе авторам будет предложен контракт на выполнение работ по реализации проекта на сайте ruscorpora.ru. На сайте будет размещена информация об авторе.

Всего доброго,
Борис Орехов

Neurosky Mindwave on Linux with Pygame and PyEEG

2014-06-03T23:32:00.000-07:00

Wireless EEG detecting smiles :) @Wearables DevCon today.

2014-06-03T23:31:00.002-07:00

http://www.youtube.com/watch?v=Hvm8N2q8iYY

java swing tutorial : Руссификация, руссификация JFileChooser и не только

2013-09-03T06:27:00.000-07:00

Оракл не руссифицировал Java Swing по-человечески, вот самый простой способ локализовать приложение через UIManager - в первую очередь JFileChooser

UIManager.put("FileChooser.fileNameLabelText", "Имя файла:");
        UIManager.put("FileChooser.lookInLabelText", "Папка:");
        UIManager.put("FileChooser.filesOfTypeLabelText", "Тип:");
        UIManager.put("FileChooser.detailsViewActionLabelText", "Детали");
        UIManager.put("FileChooser.refreshActionLabelText", "Обновить");
        UIManager.put("FileChooser.listViewActionLabelText", "Список");
        UIManager.put("FileChooser.newFolderActionLabelText", "Новая папка");
        UIManager.put("FileChooser.viewMenuLabelText", "Просмотр");
        UIManager.put("FileChooser.fileDateHeaderText","Детали");
        UIManager.put("FileChooser.fileDateHeaderText", "Изменен");
        UIManager.put("FileChooser.fileNameLabelText", "Имя файла");
        UIManager.put("FileChooser.fileNameHeaderText", "Имя");
        UIManager.put("FileChooser.fileSizeHeaderText", "Размер");
        UIManager.put("FileChooser.saveDialogTitleText", "Сохранить");
        UIManager.put("FileChooser.saveInLabelText", "Сохранить в:");
        UIManager.put("FileChooser.upFolderToolTipText", "На один уровень вверх");
        UIManager.put("FileChooser.homeFolderToolTipText", "Домой");
        UIManager.put("FileChooser.listViewButtonToolTipText", "Список");
        UIManager.put("FileChooser.newFolderToolTipText", "Создать новую папку");
        UIManager.put("FileChooser.detailsViewButtonToolTipText", "Таблица");

        UIManager.put("FileChooser.saveButtonText", "Сохранить");

        UIManager.put("FileChooser.cancelButtonText", "Отмена");

Пальба в магазине игрушек

2013-08-05T05:12:00.002-07:00

Научились строить очень большие деревья решений, можно даже распределенные, для рекламной платформы подбираем тему и товар для урла (а-ля Adsense),

и видимо замечательный результат:

http://www.chudesarik.ru/,

нашли - "Шекли Роберт": Пальба в магазине игрушек

что, круто! :-)

Decision Tree (C4.5), Online ad. (Russian), Инфернальный пиздец и Водяной Бластер

2013-04-02T01:11:00.001-07:00

Работая над рекомендательной системой для рекламной платформы иногдда встречаешься с интересными эффектами.

Пример:

Текст:

Перекресток около моего д
ома. И каждый день такая херня: Пешеходам зелёный горит уже пару секунд, однако,
машины продолжают фигачить на красный, 60-80 км/ч не меньше.…. . . ru_auto: нен
ависти псто!. Перекресток около моего дома.И каждый день такая херня:Пешеходам з
елёный горит уже пару секунд, однако, машины продолжают фигачить на красный, 60-
80 км/ч не меньше.Я, если курю в этот момент, непременно целюсь окурком в открыт
ую форточку.Если не курю или форточка закрыта, просто плюю в лобовое.Посоветуйте
! Бластер, калашников, булыжник - что эффективнее помогает водятелам запомнить П
ДД?UPD Как здесь пешеходов-то не любят... Инфернальный пиздец просто!UPD2 Больши
нство предпочитает переть на красный свет, по хрен жертвы.Но вот получить плевок
в лобовое - это для них катастрофа!.

============

Рекоммендация:

Водяной бластер

===============

Хорошая рекомендация! :-)

+++++++++++++++++++++++++++

но вот интересно, что у биграммы: "инфернальный пиздец" tfidf необычайно высок, так как это не самое часть встречающееся словосочетание.

как результат - дерево решений крепко связывает "инфернальный пиздец" и "водяной бластер".

Как результат - на статью про "инфернальный пиздец" мы рекомендуем купить... - правильно. Водяной бластер.

================

Alexander PolyakovЭтот рекомендер — лучшая технология. С ней можно будет по телевизору выступать. Типа ответ на все извечные вопросы кто виноват и что делать. Пиздец-бластер. Вот эти пары станут мемами и пойдут в продажу как отдельные товары массового потребления.

На статью о грязной рубашке и совете отстирать ее мылом мы получим Срач-мыло и т.д. Любое нейминг агентство позавидует.

Спасибо, посмеялся в голос!

Machine Learning library/framework + fuzzy logic.

2012-11-07T19:23:00.001-08:00

One additional feature in process - fuzzy logic for cases when we have not full attribute set
or if there is no strict solution, based on training set.

Machine Learning library/framework

2012-11-07T19:10:00.001-08:00

Subj - works!

Tree training/creation, serialization and storing to the redis (for a while - as a java serialization),
loading and using is works pretty good.

Simple training set and unclassified incident is applied.

TODO:

1) new algorithms for dtrees generation.
2) storing/loading tree into the redis not as a serialized object, but as a set of nodes.
3) creation a public version for just using already created trees.

https://github.com/vk4arm/DTree

Machine Learning library: training process for ID3 completed.

2012-10-28T23:13:00.001-07:00

TODO:

1) Tree serialization/saving/restoring
2) C4.5 implementation
3) Tree usage https://github.com/vk4arm/DTree

Right now - just for fun. But tree, generated from the training set looks logical...

Machine Learning library - in progress.

2012-10-22T22:36:00.001-07:00

I want to manage trees in redis, reuse it, create using id3 and c4.5 tree building algorithms.

https://github.com/vk4arm/DTree

Not yet ready!!!!!!! :-)

How to get free active email to SMS providers list. Or small Oracle software reverse engineering.

2012-10-21T13:37:00.001-07:00

Yes, it is possible to googleit, but in this case you should test all gateways, but how to do it without having a phone numbers in all providers you that have found?
Better if somebody will do it for you.

Small hack :-)
Oracle APEX (Oracle Application Express) application - OraTweet contains free sms feature. So, it is possible to get it.

Several words about apex app. This is simple .zip archive, which contains .sql files and some static resources, so, this is possible to find a list of email 2 sms providers in it.

1) Download oratweet: http://oratweet.com/ -> download

2) Unzip it.

3) Open SMS_GATEWAY.sql in your text editor.

4) ???

5) Profit !!! :-)))

Digital Research

2012-10-18T11:31:00.001-07:00

Anything you want to do, NP-hard.

2012-10-16T03:06:00.002-07:00

Anything you want to do, NP-hard. Sorry, this is an AI class. Everything is hard.

Topic Detector

2012-10-16T00:26:00.001-07:00

Делали ночью topic detector. На входе - текст или url, на выходе - классификация.
Классификация (не кластеризация) - общая, работает замечательно, даже "ручной zoom" получается.

Multilanguage soundex algorithm and library

2012-10-10T16:59:00.000-07:00

WIKI says:

Soundex is a phonetic algorithm for indexing names by sound, as pronounced in English. The goal is for homophones to be encoded to the same representation so that they can be matched despite minor differences in spelling. The algorithm mainly encodes consonants; a vowel will not be encoded unless it is the first letter. Soundex is the most widely known of all phonetic algorithms (in part because it is a standard feature of popular database software such as PostgreSQL, MySQL, MS SQL Server and Oracle) and is often used (incorrectly) as a synonym for "phonetic algorithm". Improvements to Soundex are the basis for many modern phonetic algorithms.

But world is bigger then only English.

In my solution there is an implementation for Russian language and there is a simple method for another languages configuration. I will speak with Leonid, may be he will be so kind and will add some European languages to this tool (Ukrainian, for example :-) )

Usage:

>>> import pysoundex
>>> print pysoundex.soundex("Приветище", lang='ru_RU')
п613
>>> print pysoundex.soundex("Hello")
h400   <--- the same as un mysql!
>>> print pysoundex.soundex("Halo")
h400

Configuration for Russian language is:

"ru_RU": {
"vowels": ['у','е','ы','а','о','э','я','и','ю','ь','ъ','й'],
"consonants": {
1: ['б','п','ф','в'],
2: ['с','ц','з','к','г','х'],
3: ['т','д'],
4: ['л','й'],
5: ['м','н'],
6: ['р'],

}

},

All language rules are configurable in the soundconfig variable in the lang_soundconfig.py file.

Feel free to modify and add new languages.

You can download it here:

https://github.com/vk4arm/pysoundex

Первый пост / Initial post

2012-10-10T16:48:00.003-07:00

В этом блоге в основном ссылки и описания на выкладываемых на github преполезных решений, ну и не только.

This blog is mainly a reference to some my solutions.