Como juntar (juntar) quadros de dados (interior, exterior, esquerda, direita)?
Dados dois quadros de Dados:
df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2, 4, 6), State = c(rep("Alabama", 2), rep("Ohio", 1)))
df1
# CustomerId Product
# 1 Toaster
# 2 Toaster
# 3 Toaster
# 4 Radio
# 5 Radio
# 6 Radio
df2
# CustomerId State
# 2 Alabama
# 4 Alabama
# 6 Ohio
Como posso fazer o estilo de base de dados, isto é, estilo sql, junta ? Isto é, como consigo ...
- uma junção interiorde
df1
edf2
:
Devolve apenas as linhas em que a mesa esquerda tem as chaves correspondentes na mesa direita. - uma junção exteriorde
df1
edf2
:
Devolve todas as linhas de ambas as tabelas, junta os registos da esquerda que têm as chaves correspondentes na mesa direita. - a esquerda junção exterior (ou simplesmente junção à esquerda) de
df1
edf2
Devolve todas as linhas da mesa esquerda e todas as linhas com as chaves correspondentes da mesa direita. - a junção exterior à direita de
df1
edf2
Devolve todas as linhas da mesa direita e todas as linhas com as chaves correspondentes da mesa esquerda.
crédito Extra:
Como posso fazer uma declaração de selecção de estilo SQL?
13 answers
Utilizando a função merge
e os seus parâmetros opcionais:
junção Interior: merge(df1, df2)
irá funcionar para estes exemplos porque o R junta automaticamente as molduras com nomes de variáveis comuns, mas provavelmente irá querer especificar merge(df1, df2, by = "CustomerId")
para se certificar de que estava a corresponder apenas aos campos que desejou. Você também pode usar os parâmetros by.x
e by.y
se as variáveis correspondentes tiverem nomes diferentes nas diferentes molduras de dados.
exterior juntar: merge(x = df1, y = df2, by = "CustomerId", all = TRUE)
exterior esquerdo: merge(x = df1, y = df2, by = "CustomerId", all.x = TRUE)
exterior Direito: merge(x = df1, y = df2, by = "CustomerId", all.y = TRUE)
junção cruzada: merge(x = df1, y = df2, by = NULL)
assim como com a junção interna, você provavelmente iria querer passar explicitamente "CustomerId" para R como a variável correspondente. Eu acho que é quase sempre melhor indicar explicitamente os identificadores nos quais você quer mesclar; é mais seguro se os dados de entrada.as molduras mudam de forma inesperada e mais fácil de lê mais tarde.
Pode fundir-se em várias colunas, dando by
um vector, por exemplo, by = c("CustomerId", "OrderId")
.
Se os nomes das colunas a juntar não forem os mesmos, você pode especificar, por exemplo, by.x = "CustomerId_in_df1",
por.y = "Customerid_ In_ DF2" where
CustomerId_in_df1 is the name of the column in the first data frame and
CustomerId_in_df2 ' é o nome da coluna na segunda base de dados. (Estes também podem ser vetores Se você precisar se fundir em várias colunas.)
Eu recomendaria verificar O pacote sqldf de Gabor Grothendieck, que lhe permite expressar estas operações em SQL.
library(sqldf)
## inner join
df3 <- sqldf("SELECT CustomerId, Product, State
FROM df1
JOIN df2 USING(CustomerID)")
## left join (substitute 'right' for right join)
df4 <- sqldf("SELECT CustomerId, Product, State
FROM df1
LEFT JOIN df2 USING(CustomerID)")
Acho a sintaxe SQL mais simples e mais natural do que o seu equivalente R (mas isto pode apenas reflectir o meu viés RDBMS).
Ver o GitHub sqldf de Gabor para mais informações sobre as ligações.
Existem os dados .tabela abordagem para uma junção interna, que é muito eficiente em tempo e memória (e necessário para alguns dados maiores.imagens):
library(data.table)
dt1 <- data.table(df1, key = "CustomerId")
dt2 <- data.table(df2, key = "CustomerId")
joined.dt1.dt.2 <- dt1[dt2]
merge
também funciona com dados.tabelas (como é genérico e chamadas merge.data.table
)
merge(dt1, dt2)
Dados.quadro documentado sobre o stackoverflow:
Como fazer um dado.Operação de junção de tabelas
a tradução de ligações SQL em chaves estrangeiras para os dados R.sintaxe da tabela
alternativas eficientes de fusão para maiores dado.molduras R
Como fazer uma junção externa esquerda básica com dados.mesa em R?
Outra opção é a função join
encontrada na plyr
library(plyr)
join(df1, df2,
type = "inner")
# CustomerId Product State
# 1 2 Toaster Alabama
# 2 4 Radio Alabama
# 3 6 Radio Ohio
Opções para type
: inner
, left
, right
, full
.
De ?join
: Ao Contrário merge
, [join
] preserva a ordem de x, independentemente do tipo de junção usado.
Você pode fazer juntas também usando o incrível pacote de Hadley Wickham dplyr.
library(dplyr)
#make sure that CustomerId cols are both type numeric
#they ARE not using the provided code in question and dplyr will complain
df1$CustomerId <- as.numeric(df1$CustomerId)
df2$CustomerId <- as.numeric(df2$CustomerId)
Junção mutante: adicionar colunas ao df1 usando as correspondências no df2
#inner
inner_join(df1, df2)
#left outer
left_join(df1, df2)
#right outer
right_join(df1, df2)
#alternate right outer
left_join(df2, df1)
#full join
full_join(df1, df2)
Junção de Filtragem: filtrar as linhas em df1, não modificar as colunas
semi_join(df1, df2) #keep only observations in df1 that match in df2.
anti_join(df1, df2) #drops all observations in df1 that match in df2.
Há alguns bons exemplos de fazer isto no Wiki . Vou roubar alguns aqui.
Método De Junção
Uma vez que as suas chaves têm o mesmo nome, a forma curta de fazer uma junção interior é juntar ():
merge(df1,df2)
Uma junção interna completa (todos os registos de ambas as tabelas) pode ser criada com a palavra-chave "Todos":
merge(df1,df2, all=TRUE)
Uma junção exterior esquerda de df1 e df2:
merge(df1,df2, all.x=TRUE)
Uma junção exterior direita de df1 e df2:
merge(df1,df2, all.y=TRUE)
Podes virá - los, bater-lhes e ... esfregue-os para tirar as outras duas juntas externas que você perguntou sobre:)
Método Do Subscrito
Uma junção exterior esquerda com df1 à esquerda, usando um método subescrito, seria:
df1[,"State"]<-df2[df1[ ,"Product"], "State"]
A outra combinação de junções externas pode ser criada com o exemplo do subscrito da junção externa esquerda. (sim, eu sei que é o equivalente a dizer " Vou deixá-lo como um exercício para o leitor...")
Novo em 2014:
Especialmente se também estiver interessado na manipulação de dados em geral (incluindo ordenação, filtragem, sub-definição, resumo, etc.), você definitivamente deve dar uma olhada em {[[0]}, que vem com uma variedade de funções todas projetadas para facilitar o seu trabalho especificamente com quadros de dados e certos outros tipos de banco de dados. Ele até oferece uma interface SQL bastante elaborada, e até mesmo uma função para converter (a maioria) o código SQL diretamente em R.
Os quatro as funções relacionadas com a junção no Pacote dplyr são (para citar):-
inner_join(x, y, by = NULL, copy = FALSE, ...)
: devolver todas as linhas de x onde existem valores correspondentes em y, e todas as colunas de x e y -
left_join(x, y, by = NULL, copy = FALSE, ...)
: devolve todas as linhas de x e todas as colunas de x e y -
semi_join(x, y, by = NULL, copy = FALSE, ...)
: devolve todas as linhas de x onde existem valores correspondentes em y, mantendo apenas colunas de X. -
anti_join(x, y, by = NULL, copy = FALSE, ...)
: devolver todas as linhas de x onde não existem valores correspondentes em y, mantendo apenas as colunas de x
A selecção das colunas pode ser feita por select(df,"column")
. Se isso não é SQL-ish o suficiente para você, então há a função sql()
, na qual você pode inserir o código SQL as-is, e ele fará a operação que você indicou, assim como você estava escrevendo em R O tempo todo (para mais informações, por favor consulte a dplyr/databases vignette). Por exemplo, se aplicado correctamente, sql("SELECT * FROM hflights")
irá seleccionar todas as colunas da tabela dplyr" hflights " (a "tbl").
Actualização dos dados.métodos de tabela para juntar conjuntos de dados. Veja abaixo exemplos para cada tipo de junção. Há dois métodos, um de [.data.table
ao passar os segundos dados.table as the first argument to subset, another way is to use merge
function which dispated to fast data.método de tabela.
Atualização de 2016-04-01-e não é a piada do Dia Das mentiras!
In 1.9.7 version of data.as juntas de tabela são agora capazes de usar o índice existente que reduz tremendamente o tempo de uma junção. abaixo do código e o parâmetro de referência não utiliza dados.índices de tabela relativos à adesão. Se você está procurando perto de tempo real juntar-se você deve usar os dados.índices de tabela.
df1 = data.frame(CustomerId = c(1:6), Product = c(rep("Toaster", 3), rep("Radio", 3)))
df2 = data.frame(CustomerId = c(2L, 4L, 7L), State = c(rep("Alabama", 2), rep("Ohio", 1))) # one value changed to show full outer join
library(data.table)
dt1 = as.data.table(df1)
dt2 = as.data.table(df2)
setkey(dt1, CustomerId)
setkey(dt2, CustomerId)
# right outer join keyed data.tables
dt1[dt2]
setkey(dt1, NULL)
setkey(dt2, NULL)
# right outer join unkeyed data.tables - use `on` argument
dt1[dt2, on = "CustomerId"]
# left outer join - swap dt1 with dt2
dt2[dt1, on = "CustomerId"]
# inner join - use `nomatch` argument
dt1[dt2, nomatch=0L, on = "CustomerId"]
# anti join - use `!` operator
dt1[!dt2, on = "CustomerId"]
# inner join
merge(dt1, dt2, by = "CustomerId")
# full outer join
merge(dt1, dt2, by = "CustomerId", all = TRUE)
# see ?merge.data.table arguments for other cases
Abaixo dos testes de referência base R, sqldf, dplyr e dados.tabela.
Testes de referência conjuntos de dados não encadeados/não indexados. Você pode obter um desempenho ainda melhor se você estiver usando chaves em seus dados.tabelas ou índices com sqldf. Base R e dplyr não tem índices ou chaves por isso eu não incluí esse cenário em referência.
Benchmark é realizada em 5M-1 linhas de conjuntos de dados, há 5M-2 valores comuns em participar da coluna, para cada cenário (esquerda, direita, completo, interior) pode ser testada e junte ainda não trivial para executar.
library(microbenchmark)
library(sqldf)
library(dplyr)
library(data.table)
n = 5e6
set.seed(123)
df1 = data.frame(x=sample(n,n-1L), y1=rnorm(n-1L))
df2 = data.frame(x=sample(n,n-1L), y2=rnorm(n-1L))
dt1 = as.data.table(df1)
dt2 = as.data.table(df2)
# inner join
microbenchmark(times = 10L,
base = merge(df1, df2, by = "x"),
sqldf = sqldf("SELECT * FROM df1 INNER JOIN df2 ON df1.x = df2.x"),
dplyr = inner_join(df1, df2, by = "x"),
data.table = dt1[dt2, nomatch = 0L, on = "x"])
#Unit: milliseconds
# expr min lq mean median uq max neval
# base 15546.0097 16083.4915 16687.117 16539.0148 17388.290 18513.216 10
# sqldf 44392.6685 44709.7128 45096.401 45067.7461 45504.376 45563.472 10
# dplyr 4124.0068 4248.7758 4281.122 4272.3619 4342.829 4411.388 10
# data.table 937.2461 946.0227 1053.411 973.0805 1214.300 1281.958 10
# left outer join
microbenchmark(times = 10L,
base = merge(df1, df2, by = "x", all.x = TRUE),
sqldf = sqldf("SELECT * FROM df1 LEFT OUTER JOIN df2 ON df1.x = df2.x"),
dplyr = left_join(df1, df2, by = c("x"="x")),
data.table = dt2[dt1, on = "x"])
#Unit: milliseconds
# expr min lq mean median uq max neval
# base 16140.791 17107.7366 17441.9538 17414.6263 17821.9035 19453.034 10
# sqldf 43656.633 44141.9186 44777.1872 44498.7191 45288.7406 47108.900 10
# dplyr 4062.153 4352.8021 4780.3221 4409.1186 4450.9301 8385.050 10
# data.table 823.218 823.5557 901.0383 837.9206 883.3292 1277.239 10
# right outer join
microbenchmark(times = 10L,
base = merge(df1, df2, by = "x", all.y = TRUE),
sqldf = sqldf("SELECT * FROM df2 LEFT OUTER JOIN df1 ON df2.x = df1.x"),
dplyr = right_join(df1, df2, by = "x"),
data.table = dt1[dt2, on = "x"])
#Unit: milliseconds
# expr min lq mean median uq max neval
# base 15821.3351 15954.9927 16347.3093 16044.3500 16621.887 17604.794 10
# sqldf 43635.5308 43761.3532 43984.3682 43969.0081 44044.461 44499.891 10
# dplyr 3936.0329 4028.1239 4102.4167 4045.0854 4219.958 4307.350 10
# data.table 820.8535 835.9101 918.5243 887.0207 1005.721 1068.919 10
# full outer join
microbenchmark(times = 10L,
base = merge(df1, df2, by = "x", all = TRUE),
#sqldf = sqldf("SELECT * FROM df1 FULL OUTER JOIN df2 ON df1.x = df2.x"), # not supported
dplyr = full_join(df1, df2, by = "x"),
data.table = merge(dt1, dt2, by = "x", all = TRUE))
#Unit: seconds
# expr min lq mean median uq max neval
# base 16.176423 16.908908 17.485457 17.364857 18.271790 18.626762 10
# dplyr 7.610498 7.666426 7.745850 7.710638 7.832125 7.951426 10
# data.table 2.052590 2.130317 2.352626 2.208913 2.470721 2.951948 10
Dplyr desde 0.4 implementadas todas as associações, incluindo outer_join, mas valeu a pena notar que para o primeiro de alguns lançamentos é usado não para oferecer outer_join, e como resultado, houve um monte de muito ruim hacky solução de código de usuário flutuando ao redor por muito tempo (você ainda pode encontrar isso em e Kaggle respostas a partir de que período).
Release-related release highlights:
- manipulação de Tipo POSIXct, fusos-horários, duplicados, diferentes níveis de factores. Melhores erros e avisos.
- novo argumento do sufixo para controlar o sufixo que os nomes das variáveis duplicadas recebem (#1296)
- Aplicar a junção direita e a junção exterior (#96)
- junção mutante, que adicionam novas variáveis a uma tabela a partir de linhas correspondentes a outra. Ligações de filtragem, que filtram as observações de uma tabela com base em se correspondem ou não a uma observação na outra tabela.
- pode agora separar-se por variáveis diferentes em cada tabela: df1 % > % left_join(df2, c ("var1" = "var2")
- * _join() deixou de registar os nomes das colunas (#324)
v0.1.3 (4/2014)
- has inner_join, left_join, semi_join, anti_ join
- outer_ join ainda Não implementado, o recurso é usar a base::merge () (ou plyr::join ())
- ainda não implementou o right_ Join e outer_ join
- Hadley mencionou outras vantagens aqui
- uma pequena junção de características tem atualmente que dplyr não é a capacidade de ter separado por.X, by.y colunas como, por exemplo, os pandas Python.
- right_join (x, y) é o mesmo que left_join(y,x) em termos de linhas, apenas as colunas serão ordens diferentes. Trabalhou facilmente com a select (new_column_ order)
- outer_join é basicamente União [left_join(x, y), right_join(x, y)] - isto é, preservar todas as linhas em ambos os quadros de dados.
Juntando dois quadros de dados com ~1 milhão de linhas cada, um com 2 colunas e o outro com ~20, achei surpreendentemente merge(..., all.x = TRUE, all.y = TRUE)
ser mais rápido do que dplyr::full_join()
. Isto é com dplyr v0. 4
A junção leva ~17 segundos, a junção completa leva ~65 segundos.
Alguns alimentos para o entanto, uma vez que eu geralmente padrão para dplyr para tarefas de manipulação.
No caso de uma junção à esquerda com uma cardinalidade 0..*:0..1
ou uma junção à direita com uma cardinalidade 0..1:0..*
, é possível atribuir no local as colunas unilaterais do joiner (a tabela 0..1
) directamente para o Joiner (a tabela 0..*
), evitando assim a criação de uma tabela de dados inteiramente nova. Isto requer a correspondência das colunas-chave do joinee para o joiner e a indexação+ordenando as linhas do joiner de acordo com a atribuição.
Se a chave for uma única coluna, então podemos usar uma única chamada para match()
para fazer a correspondência. Este é o caso que vou cobrir nesta resposta.
Aqui está um exemplo baseado no OP, excepto que adicionei uma linha extra a df2
com um id de 7 para testar o caso de uma chave não-correspondente no joiner. Esta é efectivamente a junção à esquerda df2
:
df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L)));
df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas'));
df1[names(df2)[-1L]] <- df2[match(df1[,1L],df2[,1L]),-1L];
df1;
## CustomerId Product State
## 1 1 Toaster <NA>
## 2 2 Toaster Alabama
## 3 3 Toaster <NA>
## 4 4 Radio Alabama
## 5 5 Radio <NA>
## 6 6 Radio Ohio
No código rígido acima, supomos que a coluna chave é a primeira coluna de ambos os quadros de entrada. Eu diria que, em geral, isto não é um suposição irracional, já que, se você tem dados.frame com uma coluna chave, seria estranho se não tivesse sido configurada como a primeira coluna dos dados.moldura desde o início. E você pode sempre reordenar as colunas para torná-lo assim. Uma consequência vantajosa desta suposição é que o nome da coluna chave não tem de ser codificado, embora suponho que esteja apenas a substituir uma suposição por outra. A concisão é outra vantagem da indexação de inteiros, bem como a velocidade. Na benchmarks below i'll change the implementation to use string name indexing to match the competing implementations.
Acho que esta é uma solução particularmente apropriada se você tiver várias tabelas que você quer deixar juntar contra uma única mesa grande. Reconstruir repetidamente a tabela inteira para cada fusão seria desnecessário e ineficiente.
Por outro lado, se você precisa que o joinee permaneça inalterado através desta operação por qualquer razão, então esta solução não pode ser usado, uma vez que modifica o joinee diretamente. Embora, nesse caso, você poderia simplesmente fazer uma cópia e realizar a(s) atribuição (ões) no local na cópia.Como nota lateral, analisei brevemente possíveis soluções de correspondência para chaves multi-colunas. Infelizmente, as únicas soluções que encontrei foram:
- concatenações ineficientes. por exemplo
match(interaction(df1$a,df1$b),interaction(df2$a,df2$b))
, ou a mesma ideia compaste()
. - conjunções cartesianas ineficientes, por exemplo
outer(df1$a,df2$a,`==`) & outer(df1$b,df2$b,`==`)
. - base R
merge()
e funções de junção baseadas em pacotes equivalentes, que sempre alocam uma nova tabela para devolver o resultado resultante da fusão e, portanto, não são adequadas para uma solução baseada na atribuição no local.
Ver, Por exemplo, Correspondência de várias colunas em diferentes quadros de dados e a obtenção de outra coluna, como resultado, coincidir com duas colunas e duas outras colunas, a Correspondência de várias colunas, e a enganar a esta pergunta onde eu originalmente veio com o no local solução, combinar dois quadros de dados com um número diferente de linhas em R.
Análise comparativa ([60]) Decidi fazer o meu próprio benchmarking para ver como a abordagem de atribuição no local se compara com as outras soluções que foram oferecidas nesta questão.
Código de ensaio:
library(microbenchmark);
library(data.table);
library(sqldf);
library(plyr);
library(dplyr);
solSpecs <- list(
merge=list(testFuncs=list(
inner=function(df1,df2,key) merge(df1,df2,key),
left =function(df1,df2,key) merge(df1,df2,key,all.x=T),
right=function(df1,df2,key) merge(df1,df2,key,all.y=T),
full =function(df1,df2,key) merge(df1,df2,key,all=T)
)),
data.table.unkeyed=list(argSpec='data.table.unkeyed',testFuncs=list(
inner=function(dt1,dt2,key) dt1[dt2,on=key,nomatch=0L,allow.cartesian=T],
left =function(dt1,dt2,key) dt2[dt1,on=key,allow.cartesian=T],
right=function(dt1,dt2,key) dt1[dt2,on=key,allow.cartesian=T],
full =function(dt1,dt2,key) merge(dt1,dt2,key,all=T,allow.cartesian=T) ## calls merge.data.table()
)),
data.table.keyed=list(argSpec='data.table.keyed',testFuncs=list(
inner=function(dt1,dt2) dt1[dt2,nomatch=0L,allow.cartesian=T],
left =function(dt1,dt2) dt2[dt1,allow.cartesian=T],
right=function(dt1,dt2) dt1[dt2,allow.cartesian=T],
full =function(dt1,dt2) merge(dt1,dt2,all=T,allow.cartesian=T) ## calls merge.data.table()
)),
sqldf.unindexed=list(testFuncs=list( ## note: must pass connection=NULL to avoid running against the live DB connection, which would result in collisions with the residual tables from the last query upload
inner=function(df1,df2,key) sqldf(paste0('select * from df1 inner join df2 using(',paste(collapse=',',key),')'),connection=NULL),
left =function(df1,df2,key) sqldf(paste0('select * from df1 left join df2 using(',paste(collapse=',',key),')'),connection=NULL),
right=function(df1,df2,key) sqldf(paste0('select * from df2 left join df1 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do right join proper, not yet supported; inverted left join is equivalent
##full =function(df1,df2,key) sqldf(paste0('select * from df1 full join df2 using(',paste(collapse=',',key),')'),connection=NULL) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
)),
sqldf.indexed=list(testFuncs=list( ## important: requires an active DB connection with preindexed main.df1 and main.df2 ready to go; arguments are actually ignored
inner=function(df1,df2,key) sqldf(paste0('select * from main.df1 inner join main.df2 using(',paste(collapse=',',key),')')),
left =function(df1,df2,key) sqldf(paste0('select * from main.df1 left join main.df2 using(',paste(collapse=',',key),')')),
right=function(df1,df2,key) sqldf(paste0('select * from main.df2 left join main.df1 using(',paste(collapse=',',key),')')) ## can't do right join proper, not yet supported; inverted left join is equivalent
##full =function(df1,df2,key) sqldf(paste0('select * from main.df1 full join main.df2 using(',paste(collapse=',',key),')')) ## can't do full join proper, not yet supported; possible to hack it with a union of left joins, but too unreasonable to include in testing
)),
plyr=list(testFuncs=list(
inner=function(df1,df2,key) join(df1,df2,key,'inner'),
left =function(df1,df2,key) join(df1,df2,key,'left'),
right=function(df1,df2,key) join(df1,df2,key,'right'),
full =function(df1,df2,key) join(df1,df2,key,'full')
)),
dplyr=list(testFuncs=list(
inner=function(df1,df2,key) inner_join(df1,df2,key),
left =function(df1,df2,key) left_join(df1,df2,key),
right=function(df1,df2,key) right_join(df1,df2,key),
full =function(df1,df2,key) full_join(df1,df2,key)
)),
in.place=list(testFuncs=list(
left =function(df1,df2,key) { cns <- setdiff(names(df2),key); df1[cns] <- df2[match(df1[,key],df2[,key]),cns]; df1; },
right=function(df1,df2,key) { cns <- setdiff(names(df1),key); df2[cns] <- df1[match(df2[,key],df1[,key]),cns]; df2; }
))
);
getSolTypes <- function() names(solSpecs);
getJoinTypes <- function() unique(unlist(lapply(solSpecs,function(x) names(x$testFuncs))));
getArgSpec <- function(argSpecs,key=NULL) if (is.null(key)) argSpecs$default else argSpecs[[key]];
initSqldf <- function() {
sqldf(); ## creates sqlite connection on first run, cleans up and closes existing connection otherwise
if (exists('sqldfInitFlag',envir=globalenv(),inherits=F) && sqldfInitFlag) { ## false only on first run
sqldf(); ## creates a new connection
} else {
assign('sqldfInitFlag',T,envir=globalenv()); ## set to true for the one and only time
}; ## end if
invisible();
}; ## end initSqldf()
setUpBenchmarkCall <- function(argSpecs,joinType,solTypes=getSolTypes(),env=parent.frame()) {
## builds and returns a list of expressions suitable for passing to the list argument of microbenchmark(), and assigns variables to resolve symbol references in those expressions
callExpressions <- list();
nms <- character();
for (solType in solTypes) {
testFunc <- solSpecs[[solType]]$testFuncs[[joinType]];
if (is.null(testFunc)) next; ## this join type is not defined for this solution type
testFuncName <- paste0('tf.',solType);
assign(testFuncName,testFunc,envir=env);
argSpecKey <- solSpecs[[solType]]$argSpec;
argSpec <- getArgSpec(argSpecs,argSpecKey);
argList <- setNames(nm=names(argSpec$args),vector('list',length(argSpec$args)));
for (i in seq_along(argSpec$args)) {
argName <- paste0('tfa.',argSpecKey,i);
assign(argName,argSpec$args[[i]],envir=env);
argList[[i]] <- if (i%in%argSpec$copySpec) call('copy',as.symbol(argName)) else as.symbol(argName);
}; ## end for
callExpressions[[length(callExpressions)+1L]] <- do.call(call,c(list(testFuncName),argList),quote=T);
nms[length(nms)+1L] <- solType;
}; ## end for
names(callExpressions) <- nms;
callExpressions;
}; ## end setUpBenchmarkCall()
harmonize <- function(res) {
res <- as.data.frame(res); ## coerce to data.frame
for (ci in which(sapply(res,is.factor))) res[[ci]] <- as.character(res[[ci]]); ## coerce factor columns to character
for (ci in which(sapply(res,is.logical))) res[[ci]] <- as.integer(res[[ci]]); ## coerce logical columns to integer (works around sqldf quirk of munging logicals to integers)
##for (ci in which(sapply(res,inherits,'POSIXct'))) res[[ci]] <- as.double(res[[ci]]); ## coerce POSIXct columns to double (works around sqldf quirk of losing POSIXct class) ----- POSIXct doesn't work at all in sqldf.indexed
res <- res[order(names(res))]; ## order columns
res <- res[do.call(order,res),]; ## order rows
res;
}; ## end harmonize()
checkIdentical <- function(argSpecs,solTypes=getSolTypes()) {
for (joinType in getJoinTypes()) {
callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
if (length(callExpressions)<2L) next;
ex <- harmonize(eval(callExpressions[[1L]]));
for (i in seq(2L,len=length(callExpressions)-1L)) {
y <- harmonize(eval(callExpressions[[i]]));
if (!isTRUE(all.equal(ex,y,check.attributes=F))) {
ex <<- ex;
y <<- y;
solType <- names(callExpressions)[i];
stop(paste0('non-identical: ',solType,' ',joinType,'.'));
}; ## end if
}; ## end for
}; ## end for
invisible();
}; ## end checkIdentical()
testJoinType <- function(argSpecs,joinType,solTypes=getSolTypes(),metric=NULL,times=100L) {
callExpressions <- setUpBenchmarkCall(argSpecs,joinType,solTypes);
bm <- microbenchmark(list=callExpressions,times=times);
if (is.null(metric)) return(bm);
bm <- summary(bm);
res <- setNames(nm=names(callExpressions),bm[[metric]]);
attr(res,'unit') <- attr(bm,'unit');
res;
}; ## end testJoinType()
testAllJoinTypes <- function(argSpecs,solTypes=getSolTypes(),metric=NULL,times=100L) {
joinTypes <- getJoinTypes();
resList <- setNames(nm=joinTypes,lapply(joinTypes,function(joinType) testJoinType(argSpecs,joinType,solTypes,metric,times)));
if (is.null(metric)) return(resList);
units <- unname(unlist(lapply(resList,attr,'unit')));
res <- do.call(data.frame,c(list(join=joinTypes),setNames(nm=solTypes,rep(list(rep(NA_real_,length(joinTypes))),length(solTypes))),list(unit=units,stringsAsFactors=F)));
for (i in seq_along(resList)) res[i,match(names(resList[[i]]),names(res))] <- resList[[i]];
res;
}; ## end testAllJoinTypes()
testGrid <- function(makeArgSpecsFunc,sizes,overlaps,solTypes=getSolTypes(),joinTypes=getJoinTypes(),metric='median',times=100L) {
res <- expand.grid(size=sizes,overlap=overlaps,joinType=joinTypes,stringsAsFactors=F);
res[solTypes] <- NA_real_;
res$unit <- NA_character_;
for (ri in seq_len(nrow(res))) {
size <- res$size[ri];
overlap <- res$overlap[ri];
joinType <- res$joinType[ri];
argSpecs <- makeArgSpecsFunc(size,overlap);
checkIdentical(argSpecs,solTypes);
cur <- testJoinType(argSpecs,joinType,solTypes,metric,times);
res[ri,match(names(cur),names(res))] <- cur;
res$unit[ri] <- attr(cur,'unit');
}; ## end for
res;
}; ## end testGrid()
Aqui está uma referência do exemplo baseado no OP que demonstrei anteriormente:
## OP's example, supplemented with a non-matching row in df2
argSpecs <- list(
default=list(copySpec=1:2,args=list(
df1 <- data.frame(CustomerId=1:6,Product=c(rep('Toaster',3L),rep('Radio',3L))),
df2 <- data.frame(CustomerId=c(2L,4L,6L,7L),State=c(rep('Alabama',2L),'Ohio','Texas')),
'CustomerId'
)),
data.table.unkeyed=list(copySpec=1:2,args=list(
as.data.table(df1),
as.data.table(df2),
'CustomerId'
)),
data.table.keyed=list(copySpec=1:2,args=list(
setkey(as.data.table(df1),CustomerId),
setkey(as.data.table(df2),CustomerId)
))
);
## prepare sqldf
initSqldf();
sqldf('create index df1_key on df1(CustomerId);'); ## upload and create an sqlite index on df1
sqldf('create index df2_key on df2(CustomerId);'); ## upload and create an sqlite index on df2
checkIdentical(argSpecs);
testAllJoinTypes(argSpecs,metric='median');
## join merge data.table.unkeyed data.table.keyed sqldf.unindexed sqldf.indexed plyr dplyr in.place unit
## 1 inner 644.259 861.9345 923.516 9157.752 1580.390 959.2250 270.9190 NA microseconds
## 2 left 713.539 888.0205 910.045 8820.334 1529.714 968.4195 270.9185 224.3045 microseconds
## 3 right 1221.804 909.1900 923.944 8930.668 1533.135 1063.7860 269.8495 218.1035 microseconds
## 4 full 1302.203 3107.5380 3184.729 NA NA 1593.6475 270.7055 NA microseconds
Aqui eu comparo dados aleatórios de entrada, tentando diferentes escalas e diferentes padrões de sobreposição de chaves entre as duas tabelas de entrada. Este parâmetro de referência é ainda limitado ao caso de uma chave inteira de coluna única. Além disso, para garantir que a solução no local funcionaria para as juntas esquerda e direita das mesmas tabelas, todos os dados de teste aleatórios usam a cardinalidade 0..1:0..1
. Isto é implementado por amostragem sem substituição da coluna-chave dos primeiros dados.frame ao gerar a coluna chave do segundo dado.quadro.
makeArgSpecs.singleIntegerKey.optionalOneToOne <- function(size,overlap) {
com <- as.integer(size*overlap);
argSpecs <- list(
default=list(copySpec=1:2,args=list(
df1 <- data.frame(id=sample(size),y1=rnorm(size),y2=rnorm(size)),
df2 <- data.frame(id=sample(c(if (com>0L) sample(df1$id,com) else integer(),seq(size+1L,len=size-com))),y3=rnorm(size),y4=rnorm(size)),
'id'
)),
data.table.unkeyed=list(copySpec=1:2,args=list(
as.data.table(df1),
as.data.table(df2),
'id'
)),
data.table.keyed=list(copySpec=1:2,args=list(
setkey(as.data.table(df1),id),
setkey(as.data.table(df2),id)
))
);
## prepare sqldf
initSqldf();
sqldf('create index df1_key on df1(id);'); ## upload and create an sqlite index on df1
sqldf('create index df2_key on df2(id);'); ## upload and create an sqlite index on df2
argSpecs;
}; ## end makeArgSpecs.singleIntegerKey.optionalOneToOne()
## cross of various input sizes and key overlaps
sizes <- c(1e1L,1e3L,1e6L);
overlaps <- c(0.99,0.5,0.01);
system.time({ res <- testGrid(makeArgSpecs.singleIntegerKey.optionalOneToOne,sizes,overlaps); });
## user system elapsed
## 22024.65 12308.63 34493.19
Escrevi um código para ... criar gráficos de log-log dos resultados acima. Criei uma parcela separada para cada percentagem de sobreposição. É um pouco confuso, mas eu gosto de ter todos os tipos de solução e juntar tipos representados no mesmo enredo.
Usei a interpolação da curva para mostrar uma curva suave para cada combinação de tipo solução/junção, desenhada com símbolos pch individuais. O tipo de junção é capturado pelo símbolo pch, usando um ponto para parênteses de ângulo interior, esquerdo e direito para esquerda e um diamante para full. O tipo de solução é capturado pela cor, Como mostrado na legenda.
plotRes <- function(res,titleFunc,useFloor=F) {
solTypes <- setdiff(names(res),c('size','overlap','joinType','unit')); ## derive from res
normMult <- c(microseconds=1e-3,milliseconds=1); ## normalize to milliseconds
joinTypes <- getJoinTypes();
cols <- c(merge='purple',data.table.unkeyed='blue',data.table.keyed='#00DDDD',sqldf.unindexed='brown',sqldf.indexed='orange',plyr='red',dplyr='#00BB00',in.place='magenta');
pchs <- list(inner=20L,left='<',right='>',full=23L);
cexs <- c(inner=0.7,left=1,right=1,full=0.7);
NP <- 60L;
ord <- order(decreasing=T,colMeans(res[res$size==max(res$size),solTypes],na.rm=T));
ymajors <- data.frame(y=c(1,1e3),label=c('1ms','1s'),stringsAsFactors=F);
for (overlap in unique(res$overlap)) {
x1 <- res[res$overlap==overlap,];
x1[solTypes] <- x1[solTypes]*normMult[x1$unit]; x1$unit <- NULL;
xlim <- c(1e1,max(x1$size));
xticks <- 10^seq(log10(xlim[1L]),log10(xlim[2L]));
ylim <- c(1e-1,10^((if (useFloor) floor else ceiling)(log10(max(x1[solTypes],na.rm=T))))); ## use floor() to zoom in a little more, only sqldf.unindexed will break above, but xpd=NA will keep it visible
yticks <- 10^seq(log10(ylim[1L]),log10(ylim[2L]));
yticks.minor <- rep(yticks[-length(yticks)],each=9L)*1:9;
plot(NA,xlim=xlim,ylim=ylim,xaxs='i',yaxs='i',axes=F,xlab='size (rows)',ylab='time (ms)',log='xy');
abline(v=xticks,col='lightgrey');
abline(h=yticks.minor,col='lightgrey',lty=3L);
abline(h=yticks,col='lightgrey');
axis(1L,xticks,parse(text=sprintf('10^%d',as.integer(log10(xticks)))));
axis(2L,yticks,parse(text=sprintf('10^%d',as.integer(log10(yticks)))),las=1L);
axis(4L,ymajors$y,ymajors$label,las=1L,tick=F,cex.axis=0.7,hadj=0.5);
for (joinType in rev(joinTypes)) { ## reverse to draw full first, since it's larger and would be more obtrusive if drawn last
x2 <- x1[x1$joinType==joinType,];
for (solType in solTypes) {
if (any(!is.na(x2[[solType]]))) {
xy <- spline(x2$size,x2[[solType]],xout=10^(seq(log10(x2$size[1L]),log10(x2$size[nrow(x2)]),len=NP)));
points(xy$x,xy$y,pch=pchs[[joinType]],col=cols[solType],cex=cexs[joinType],xpd=NA);
}; ## end if
}; ## end for
}; ## end for
## custom legend
## due to logarithmic skew, must do all distance calcs in inches, and convert to user coords afterward
## the bottom-left corner of the legend will be defined in normalized figure coords, although we can convert to inches immediately
leg.cex <- 0.7;
leg.x.in <- grconvertX(0.275,'nfc','in');
leg.y.in <- grconvertY(0.6,'nfc','in');
leg.x.user <- grconvertX(leg.x.in,'in');
leg.y.user <- grconvertY(leg.y.in,'in');
leg.outpad.w.in <- 0.1;
leg.outpad.h.in <- 0.1;
leg.midpad.w.in <- 0.1;
leg.midpad.h.in <- 0.1;
leg.sol.w.in <- max(strwidth(solTypes,'in',leg.cex));
leg.sol.h.in <- max(strheight(solTypes,'in',leg.cex))*1.5; ## multiplication factor for greater line height
leg.join.w.in <- max(strheight(joinTypes,'in',leg.cex))*1.5; ## ditto
leg.join.h.in <- max(strwidth(joinTypes,'in',leg.cex));
leg.main.w.in <- leg.join.w.in*length(joinTypes);
leg.main.h.in <- leg.sol.h.in*length(solTypes);
leg.x2.user <- grconvertX(leg.x.in+leg.outpad.w.in*2+leg.main.w.in+leg.midpad.w.in+leg.sol.w.in,'in');
leg.y2.user <- grconvertY(leg.y.in+leg.outpad.h.in*2+leg.main.h.in+leg.midpad.h.in+leg.join.h.in,'in');
leg.cols.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.join.w.in*(0.5+seq(0L,length(joinTypes)-1L)),'in');
leg.lines.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in-leg.sol.h.in*(0.5+seq(0L,length(solTypes)-1L)),'in');
leg.sol.x.user <- grconvertX(leg.x.in+leg.outpad.w.in+leg.main.w.in+leg.midpad.w.in,'in');
leg.join.y.user <- grconvertY(leg.y.in+leg.outpad.h.in+leg.main.h.in+leg.midpad.h.in,'in');
rect(leg.x.user,leg.y.user,leg.x2.user,leg.y2.user,col='white');
text(leg.sol.x.user,leg.lines.y.user,solTypes[ord],cex=leg.cex,pos=4L,offset=0);
text(leg.cols.x.user,leg.join.y.user,joinTypes,cex=leg.cex,pos=4L,offset=0,srt=90); ## srt rotation applies *after* pos/offset positioning
for (i in seq_along(joinTypes)) {
joinType <- joinTypes[i];
points(rep(leg.cols.x.user[i],length(solTypes)),ifelse(colSums(!is.na(x1[x1$joinType==joinType,solTypes[ord]]))==0L,NA,leg.lines.y.user),pch=pchs[[joinType]],col=cols[solTypes[ord]]);
}; ## end for
title(titleFunc(overlap));
readline(sprintf('overlap %.02f',overlap));
}; ## end for
}; ## end plotRes()
titleFunc <- function(overlap) sprintf('R merge solutions: single-column integer key, 0..1:0..1 cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,T);
Aqui está uma segunda referência de grande escala que é mais pesada, no que diz respeito ao número e tipos de colunas chave, bem como a cardinalidade. Para este benchmark eu uso três colunas chave: um caractere, um inteiro, e um lógico, sem restrições na cardinalidade (isto é,
0..*:0..*
). (Em geral, não é aconselhável definir colunas chave com valores duplos ou complexos devido a complicações de comparação de ponto flutuante, e basicamente ninguém nunca usa o tipo bruto, muito menos para colunas chave, então eu não incluí esses tipos nas colunas chave. Além disso, para informação, eu inicialmente tentei usar quatro colunas chave, incluindo uma coluna de Chave POSIXct, mas o tipo POSIXct não funcionou bem com a solução sqldf.indexed
por alguma razão, possivelmente devido a anomalias de comparação de ponto flutuante, então eu removi ele.)
makeArgSpecs.assortedKey.optionalManyToMany <- function(size,overlap,uniquePct=75) {
## number of unique keys in df1
u1Size <- as.integer(size*uniquePct/100);
## (roughly) divide u1Size into bases, so we can use expand.grid() to produce the required number of unique key values with repetitions within individual key columns
## use ceiling() to ensure we cover u1Size; will truncate afterward
u1SizePerKeyColumn <- as.integer(ceiling(u1Size^(1/3)));
## generate the unique key values for df1
keys1 <- expand.grid(stringsAsFactors=F,
idCharacter=replicate(u1SizePerKeyColumn,paste(collapse='',sample(letters,sample(4:12,1L),T))),
idInteger=sample(u1SizePerKeyColumn),
idLogical=sample(c(F,T),u1SizePerKeyColumn,T)
##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+sample(u1SizePerKeyColumn)
)[seq_len(u1Size),];
## rbind some repetitions of the unique keys; this will prepare one side of the many-to-many relationship
## also scramble the order afterward
keys1 <- rbind(keys1,keys1[sample(nrow(keys1),size-u1Size,T),])[sample(size),];
## common and unilateral key counts
com <- as.integer(size*overlap);
uni <- size-com;
## generate some unilateral keys for df2 by synthesizing outside of the idInteger range of df1
keys2 <- data.frame(stringsAsFactors=F,
idCharacter=replicate(uni,paste(collapse='',sample(letters,sample(4:12,1L),T))),
idInteger=u1SizePerKeyColumn+sample(uni),
idLogical=sample(c(F,T),uni,T)
##idPOSIXct=as.POSIXct('2016-01-01 00:00:00','UTC')+u1SizePerKeyColumn+sample(uni)
);
## rbind random keys from df1; this will complete the many-to-many relationship
## also scramble the order afterward
keys2 <- rbind(keys2,keys1[sample(nrow(keys1),com,T),])[sample(size),];
##keyNames <- c('idCharacter','idInteger','idLogical','idPOSIXct');
keyNames <- c('idCharacter','idInteger','idLogical');
## note: was going to use raw and complex type for two of the non-key columns, but data.table doesn't seem to fully support them
argSpecs <- list(
default=list(copySpec=1:2,args=list(
df1 <- cbind(stringsAsFactors=F,keys1,y1=sample(c(F,T),size,T),y2=sample(size),y3=rnorm(size),y4=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
df2 <- cbind(stringsAsFactors=F,keys2,y5=sample(c(F,T),size,T),y6=sample(size),y7=rnorm(size),y8=replicate(size,paste(collapse='',sample(letters,sample(4:12,1L),T)))),
keyNames
)),
data.table.unkeyed=list(copySpec=1:2,args=list(
as.data.table(df1),
as.data.table(df2),
keyNames
)),
data.table.keyed=list(copySpec=1:2,args=list(
setkeyv(as.data.table(df1),keyNames),
setkeyv(as.data.table(df2),keyNames)
))
);
## prepare sqldf
initSqldf();
sqldf(paste0('create index df1_key on df1(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df1
sqldf(paste0('create index df2_key on df2(',paste(collapse=',',keyNames),');')); ## upload and create an sqlite index on df2
argSpecs;
}; ## end makeArgSpecs.assortedKey.optionalManyToMany()
sizes <- c(1e1L,1e3L,1e5L); ## 1e5L instead of 1e6L to respect more heavy-duty inputs
overlaps <- c(0.99,0.5,0.01);
solTypes <- setdiff(getSolTypes(),'in.place');
system.time({ res <- testGrid(makeArgSpecs.assortedKey.optionalManyToMany,sizes,overlaps,solTypes); });
## user system elapsed
## 38895.50 784.19 39745.53
As parcelas resultantes, utilizando o mesmo código de representação indicado acima:
titleFunc <- function(overlap) sprintf('R merge solutions: character/integer/logical key, 0..*:0..* cardinality, %d%% overlap',as.integer(overlap*100));
plotRes(res,titleFunc,F);
- usando a função
merge
podemos seleccionar a variável da tabela esquerda ou direita, da mesma forma que todos conhecemos com a opção seleccionar a instrução em SQL (EX : seleccione a.*...ou seleccionar B.* de .....) -
Temos de adicionar um código extra que será incluído na tabela recém-Unida .
SQL :-
select a.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId
R :-
merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df1)]
Da mesma maneira
SQL :-
select b.* from df1 a inner join df2 b on a.CustomerId=b.CustomerId
R :-
merge(df1, df2, by.x = "CustomerId", by.y = "CustomerId")[,names(df2)]
Para uma junção interna em todas as colunas, também pode usar fintersect
a partir dos dados .Tabela - pacote ou intersect
do pacote dplyr Como alternativa a merge
sem especificar as colunas by
. isto irá dar as linhas que são iguais entre dois dataframes:
merge(df1, df2)
# V1 V2
# 1 B 2
# 2 C 3
dplyr::intersect(df1, df2)
# V1 V2
# 1 B 2
# 2 C 3
data.table::fintersect(setDT(df1), setDT(df2))
# V1 V2
# 1: B 2
# 2: C 3
Dados de exemplo:
df1 <- data.frame(V1 = LETTERS[1:4], V2 = 1:4)
df2 <- data.frame(V1 = LETTERS[2:3], V2 = 2:3)
Update join. uma outra junção importante ao estilo SQL é uma "update join " onde as colunas de uma tabela são actualizadas (ou criadas) usando outra tabela.
Modificar as tabelas de exemplo do OP...
sales = data.frame(
CustomerId = c(1, 1, 1, 3, 4, 6),
Year = 2000:2005,
Product = c(rep("Toaster", 3), rep("Radio", 3))
)
cust = data.frame(
CustomerId = c(1, 1, 4, 6),
Year = c(2001L, 2002L, 2002L, 2002L),
State = state.name[1:4]
)
sales
# CustomerId Year Product
# 1 2000 Toaster
# 1 2001 Toaster
# 1 2002 Toaster
# 3 2003 Radio
# 4 2004 Radio
# 6 2005 Radio
cust
# CustomerId Year State
# 1 2001 Alabama
# 1 2002 Alaska
# 4 2002 Arizona
# 6 2002 Arkansas
Suponha que queremos adicionar o estado do cliente de cust
para a tabela de compras, sales
, ignorando a coluna do ano. Com base R, Podemos identificar linhas correspondentes e copiar os valores sobre:
sales$State <- cust$State[ match(sales$CustomerId, cust$CustomerId) ]
# CustomerId Year Product State
# 1 2000 Toaster Alabama
# 1 2001 Toaster Alabama
# 1 2002 Toaster Alabama
# 3 2003 Radio <NA>
# 4 2004 Radio Arizona
# 6 2005 Radio Arkansas
# cleanup for the next example
sales$State <- NULL
Como pode ser visto aqui, match
selecciona o primeiro linha correspondente da mesa dos clientes.
Actualizar juntar com várias colunas. a abordagem acima funciona bem quando estamos a juntar-nos numa única coluna e estamos satisfeitos com o primeiro jogo. Suponha que queremos que o ano de medição na mesa do cliente corresponda ao ano de venda.
Como a resposta de @bgoldst menciona, match
com interaction
pode ser uma opção para este caso. Mais diretamente, pode - se usar dados.quadro:
library(data.table)
setDT(sales); setDT(cust)
sales[, State := cust[sales, on=.(CustomerId, Year), x.State]]
# CustomerId Year Product State
# 1: 1 2000 Toaster <NA>
# 2: 1 2001 Toaster Alabama
# 3: 1 2002 Toaster Alaska
# 4: 3 2003 Radio <NA>
# 5: 4 2004 Radio <NA>
# 6: 6 2005 Radio <NA>
# cleanup for next example
sales[, State := NULL]
Rolamento update join.([12]} alternadamente, podemos querer tomar o último estado em que o cliente foi encontrado:
sales[, State := cust[sales, on=.(CustomerId, Year), roll=TRUE, x.State]]
# CustomerId Year Product State
# 1: 1 2000 Toaster <NA>
# 2: 1 2001 Toaster Alabama
# 3: 1 2002 Toaster Alaska
# 4: 3 2003 Radio <NA>
# 5: 4 2004 Radio Arizona
# 6: 6 2005 Radio Arkansas
Os três exemplos acima de tudo se concentram na criação/adição de uma nova coluna. Ver a FAQ R relacionada para um exemplo de actualização/modificação de uma coluna existente.