R + C + CUDA =…
Иногда возникает необходимость ускорить вычисления, причем желательно сразу в разы. При этом приходится отказываться от удобных, но медленных инструментов и прибегать к чему-то более низкоуровневому и быстрому. R имеет довольно развитые возможности для работы с динамическими бибиотеками, написанными на С/С++, Fortran или даже Java. Я по привычке предпочитаю С/С++.R и С Сразу оговорюсь, что я работаю под Debian Wheezy (под Windows, вероятно, есть какие-то ньюансы). При написании библиотеки на С для R надо учитывать следующее: Функции, написанные на С и вызываемые в R, должны иметь тип void. Это значит, что если функция возвращает какие-то результаты, то их надо вернуть через аргументы функции
Все аргументы передаются по ссылке (а при работе с указателями надо не терять бдительность!)
В С код желательно включать R.h и Rmath.h (если используются математические функции R)
Начнем с простой функции, которая вычисляет скалярное произведение двух векторов: 
#include
void iprod (double *v1, double *v2, int *n, double *s) {
*s = 0;
for (int i = 0; i < *n; i++) {
*s += v1[i] * v2[i];
}
}
Далее надо получить динамическую библиотеку — можно непосредственно через gcc, а можно воспользоваться такой командой (кстати, стоит запомнить вывод, т.к. он пригодится нам в дальнейшем):
R CMD SHLIB inner_prod.c
На выходе получим файл inner_prod.so, для загрузки которого воспользуемся функцией dyn.load(). Для вызова же самой функции на С используем .C() (есть еще .Call() и .External(), но с несколько другим функционалом, причем между сторонниками .C() и .Call() подчас идут жаркие споры ). Отмечу только, что при написании кода на С для вызова через .C() он получается более чистым и удобочитаемым. Особое внимание стоит обратить на соответствие типов переменных в R и C (в документации по функции .C() об этом подробно написано). Функция-обертка на R:
iprodс <- function(a, b) {
if (!is.loaded('iprod')) {
dyn.load("inner_prod.so")
}
n <- length(a)
v <- 0
return(.C("iprod", as.double(a), as.double(b), as.integer(n), as.double(v))[[4]])
}
Теперь можно узнать, чего же мы добились:
> n <- 1e7; a <- rnorm(n); b <- rnorm(n);
> iprodс (a, b)
[1] 3482.183
И небольшая проверка:
> sum (a * b)
[1] 3482.183
Во всяком случае, считает правильно.R и СUDA
Чтобы воспользоваться всеми благами, которые предоставляет графический ускоритель Nvidia, в Debian, необходимо, чтобы были установлены проприетраный драйвер Nvidia и пакет nvidia-cuda-toolkit. CUDA, безусловно, заслуживает отдельной огромной темы, и так как мой уровень в этой теме «новичок», я не буду пугать людей своим кривым и недописаным кодом, а позволю себе скопировать несколько строк из методички.Предположим, необходимо каждый элемент вектора возвести в третью степень и найти евклидову норму полученного вектора: 
Чтобы несколько облегчить работу с GPU, воспользуемся библиотекой параллельных алгоритмов Thrust, которая позволяет абстрагироваться от низкоуровневых операций CUDA/C. При этом данные представляются в виде векторов, к которым применяются некоторые стандартные алгоритмы (elementwise operations, reductions, prefix-sums, sorting).
#include
// Функтор, выполняющий возведение числа в 6 степень на GPU (device)
template
extern «C» void nrm (double *v, int *n, double *vnorm) {
// Вектор, хранимый в памяти GPU, в который копируется содержимое *v
thrust: device_vector
return (.C («nrm», as.double (v), as.integer (n), as.double (vnorm))[[3]])
}
Ниже на графике хорошо видно, как растет время выполнения в зависимости от длины вектора. Стоит отметить, что если в вычислениях преобладают простые операции типа сложения/вычитания, то разницы между временем счета на CPU и GPU практически не будет. Более того, очень вероятно, что GPU проиграет из-за накладных расходов по работе с памятью.
Скрытый текст
gpu_time <- c()
cpu_time <- c()
n <- seq.int(1e4, 1e8, length.out=30)
for (i in n) {
v <- rnorm(i, 1000)
gpu_time <- c(gpu_time, system.time({p1 <- gpunrm(v)})[1])
cpu_time <- c(cpu_time, system.time({p2 <- sqrt(sum(v^6))})[1])
}
Заключение
На самом деле в R операции для работы с матрицами и векторами очень хорошо оптимизированы, и необходимость в использовании GPU в обычной жизни возникает не так уж и часто, но иногда GPU позволяет заметно сократить время расчета. В CRAN уже есть готовые пакеты (например, gputools), адаптированные для работы с GPU (тут можно почитать про это подробнее).Ссылки
1. An Introduction to the .C Interface to R2. Calling C Functions in R and Matlab3. Writing CUDA C extensions for R4. Thrust::CUDA Toolkit Documentation
