Выберите только первые строки для каждого уникального значения столбца в R
из фрейма данных, как это
test <- data.frame('id'= rep(1:5,2), 'string'= LETTERS[1:10])
test <- test[order(test$id), ]
rownames(test) <- 1:10
> test
id string
1 1 A
2 1 F
3 2 B
4 2 G
5 3 C
6 3 H
7 4 D
8 4 I
9 5 E
10 5 J
Я хочу создать новый с первым появлением каждой пары id / string. Если sqldf принял код R внутри него, запрос может выглядеть так:
res <- sqldf("select id, min(rownames(test)), string
from test
group by id, string")
> res
id string
1 1 A
3 2 B
5 3 C
7 4 D
9 5 E
есть ли решение, не создающее новый столбец, например
test$row <- rownames(test)
и запуск того же запроса sqldf с min(row)?
8 ответов:
можно использовать
duplicated
сделать это очень быстро.test[!duplicated(test$id),]
ориентиры, для скорости уродов:
ju <- function() test[!duplicated(test$id),] gs1 <- function() do.call(rbind, lapply(split(test, test$id), head, 1)) gs2 <- function() do.call(rbind, lapply(split(test, test$id), `[`, 1, )) jply <- function() ddply(test,.(id),function(x) head(x,1)) jdt <- function() { testd <- as.data.table(test) setkey(testd,id) # Initial solution (slow) # testd[,lapply(.SD,function(x) head(x,1)),by = key(testd)] # Faster options : testd[!duplicated(id)] # (1) # testd[, .SD[1L], by=key(testd)] # (2) # testd[J(unique(id)),mult="first"] # (3) # testd[ testd[,.I[1L],by=id] ] # (4) needs v1.8.3. Allows 2nd, 3rd etc } library(plyr) library(data.table) library(rbenchmark) # sample data set.seed(21) test <- data.frame(id=sample(1e3, 1e5, TRUE), string=sample(LETTERS, 1e5, TRUE)) test <- test[order(test$id), ] benchmark(ju(), gs1(), gs2(), jply(), jdt(), replications=5, order="relative")[,1:6] # test replications elapsed relative user.self sys.self # 1 ju() 5 0.03 1.000 0.03 0.00 # 5 jdt() 5 0.03 1.000 0.03 0.00 # 3 gs2() 5 3.49 116.333 2.87 0.58 # 2 gs1() 5 3.58 119.333 3.00 0.58 # 4 jply() 5 3.69 123.000 3.11 0.51
давайте попробуем еще раз, но только с претендентами с первого тепла и с большим количеством данных и больше копий.
set.seed(21) test <- data.frame(id=sample(1e4, 1e6, TRUE), string=sample(LETTERS, 1e6, TRUE)) test <- test[order(test$id), ] benchmark(ju(), jdt(), order="relative")[,1:6] # test replications elapsed relative user.self sys.self # 1 ju() 100 5.48 1.000 4.44 1.00 # 2 jdt() 100 6.92 1.263 5.70 1.15
а как же
DT <- data.table(test) setkey(DT, id) DT[J(unique(id)), mult = "first"]
Edit
существует также Уникальный метод для
data.tables
который вернет первую строку по ключуjdtu <- function() unique(DT)
Я думаю, если вы заказ
test
вне эталона, то вы можете удалитьsetkey
иdata.table
преобразование из бенчмарка, а также (как setkey в основном сортирует по id, так же, какorder
).set.seed(21) test <- data.frame(id=sample(1e3, 1e5, TRUE), string=sample(LETTERS, 1e5, TRUE)) test <- test[order(test$id), ] DT <- data.table(DT, key = 'id') ju <- function() test[!duplicated(test$id),] jdt <- function() DT[J(unique(id)),mult = 'first'] library(rbenchmark) benchmark(ju(), jdt(), replications = 5) ## test replications elapsed relative user.self sys.self ## 2 jdt() 5 0.01 1 0.02 0 ## 1 ju() 5 0.05 5 0.05 0
и с большим количеством данных
** редактировать с помощью уникальный метод**
set.seed(21) test <- data.frame(id=sample(1e4, 1e6, TRUE), string=sample(LETTERS, 1e6, TRUE)) test <- test[order(test$id), ] DT <- data.table(test, key = 'id') test replications elapsed relative user.self sys.self 2 jdt() 5 0.09 2.25 0.09 0.00 3 jdtu() 5 0.04 1.00 0.05 0.00 1 ju() 5 0.22 5.50 0.19 0.03
уникальный метод здесь самый быстрый.
простой :
ddply(test,.(id),function(x) head(x,1))
если скорость является проблемой, аналогичный подход может быть использован с
data.table
:testd <- data.table(test) setkey(testd,id) testd[,lapply(.SD,function(x) head(x,1)),by = key(testd)]
(1) SQLite имеет встроенный
rowid
псевдо-столбец так это работает:sqldf("select min(rowid) rowid, id, string from test group by id")
даем:
rowid id string 1 1 1 A 2 3 2 B 3 5 3 C 4 7 4 D 5 9 5 E
(2) и есть
теперь
dplyr
добавление различных счетчиков.df %>% group_by(aa, bb) %>% summarise(first=head(value,1), count=n_distinct(value))
вы создаете группы, их суммируют внутри групп.
если данные числовые, вы можете использовать:
first(value)
[там жеlast(value)
] на местеhead(value, 1)
посмотреть: http://cran.rstudio.com/web/packages/dplyr/vignettes/introduction.html
полный:
> df Source: local data frame [16 x 3] aa bb value 1 1 1 GUT 2 1 1 PER 3 1 2 SUT 4 1 2 GUT 5 1 3 SUT 6 1 3 GUT 7 1 3 PER 8 2 1 221 9 2 1 224 10 2 1 239 11 2 2 217 12 2 2 221 13 2 2 224 14 3 1 GUT 15 3 1 HUL 16 3 1 GUT > library(dplyr) > df %>% > group_by(aa, bb) %>% > summarise(first=head(value,1), count=n_distinct(value)) Source: local data frame [6 x 4] Groups: aa aa bb first count 1 1 1 GUT 2 2 1 2 SUT 2 3 1 3 SUT 3 4 2 1 221 3 5 2 2 217 3 6 3 1 GUT 2
базовая опция R-это
split()
-lapply()
-do.call()
идиома:> do.call(rbind, lapply(split(test, test$id), head, 1)) id string 1 1 A 2 2 B 3 3 C 4 4 D 5 5 E
более прямой вариант:
lapply()
the[
функция:> do.call(rbind, lapply(split(test, test$id), `[`, 1, )) id string 1 1 A 2 2 B 3 3 C 4 4 D 5 5 E
запятая-пробел
1, )
в концеlapply()
вызов важно как это эквивалентно вызову[1, ]
для выбора первой строки и все столбцы.
Я предпочитаю подход dplyr.
library(dplyr) test %>% group_by(id) %>% filter(row_number()==1) # A tibble: 5 x 2 # Groups: id [5] id string <int> <fct> 1 1 A 2 2 B 3 3 C 4 4 D 5 5 E
группировка по идентификаторам и фильтру для возврата только первой строки. В некоторых случаях может потребоваться упорядочение идентификаторов после group_by.