Qual é o prazo para quando um modelo age sobre a coisa que está sendo modelada e, assim, muda o conceito?

8

Estou tentando ver se existe um termo convencional para esse conceito para me ajudar na minha pesquisa e literatura. Quando um modelo de aprendizado de máquina faz com que uma ação seja executada no mundo real que afeta instâncias futuras, como é chamado?

Estou pensando em algo como um sistema de recomendação que recomenda um determinado produto e não recomenda outro produto. Então, você aumentou a probabilidade de alguém comprar o primeiro produto e diminuiu a probabilidade de alguém comprar o segundo produto. Portanto, esses números de vendas acabarão se tornando instâncias de treinamento, criando uma espécie de ciclo de feedback.

Existe um termo para isso?

machine-learning terminology jsmith54
fonte
Sim, "feedback loop" é como eu sempre descreveria isso.
27415 Sean
Eu acho que o loop de feedback é definitivamente útil, mas a literatura sobre performatividade e reflexividade parece abordar mais a interação complexa que eu estava tentando discutir. Portanto, acho útil dizer algo como: "Um modelo que pode agir sobre o conceito para mudar o conceito pode, assim, mudar-se em uma espécie de loop de feedback. Vamos chamar essa propriedade (performatividade / reflexividade). Isso é diferente da deriva do conceito. , porque o modelo é a causa da deriva ".
precisa saber é o seguinte

Respostas:

6

Existem três termos da ciência social que se aplicam à sua situação:

  1. Reflexividade - refere-se a relações circulares entre causa e efeito. Em particular, você pode usar a definição do termo adotado por George Soros para se referir ao loop causal reverso entre os preços das ações (ou seja, o valor presente dos fundamentos) e os fundamentos dos negócios. De certa forma, o preço da ação é um "modelo" dos processos fundamentais de negócios. Geralmente, as pessoas assumem que a causalidade é unidirecional, dos fundamentos ao preço da ação.

  2. Performatividade - Como usado por Donald MacKenzie (por exemplo, aqui ), muitos modelos econômicos não são "câmeras" - tirando fotos da realidade econômica - mas na verdade são "motores" - parte integrante da construção da realidade econômica. Ele tem um livro com esse título: Um mecanismo, não uma câmera .

  3. Profecia auto-realizável - uma previsão que, direta ou indiretamente, se torna verdadeira, pelos próprios termos da própria profecia, devido ao feedback positivo entre crença e comportamento. Este é o termo mais amplo e menos específico para a situação que você descreve.

Dos três termos, sugiro que a "performatividade" de MacKenzie seja a mais adequada à sua situação. Ele afirma, entre outras coisas, que a validade dos modelos econômicos (por exemplo, precificação de opções Black-Scholes) foi aprimorada por seu próprio uso pelos participantes do mercado e, portanto, como ela reflete nos preços das opções e nos padrões de negociação.

MrMeritology
fonte
Todos os termos úteis, mas acho que concordam que a performatividade é a mais aplicável, pelo menos em termos de tentar expressar o conceito por escrito. Obviamente, existe uma boa heterogeneidade de terminologia entre campos. Portanto, não tenho certeza de que algum deles realmente vai me ajudar em qualquer pesquisa bibliográfica. Mas esse é provavelmente o termo que vou tentar usar.
precisa saber é o seguinte
3

Embora não seja especificamente um termo, focado no aprendizado de máquina , mas eu me referiria a esse comportamento de um modelo estatístico, usando um efeito colateral geral do termo (ao adicionar alguns adjetivos esclarecedores , como esperados ou inesperados, desejados ou indesejados e similares) ) O resultado da modelagem ou o resultado do loop de feedback transitivo pode ser alguns dos termos alternativos .

Aleksandr Blekh
fonte
@ jsmith54: O prazer é meu.
Aleksandr Blekh 03/04
0

Eu acho que na literatura o termo geral usado com frequência é aprendizado ativo Aprendizado ativo ... em particular Bandido contextual multi-armado

seanv507
fonte
Embora o aprendizado ativo (AL) pareça um conceito próximo o suficiente, acho que há uma diferença significativa entre AL e situação, descrita pelo OP - o primeiro implica esforços de supervisão intencionais , enquanto o segundo implica a falta de tais esforços e, mesmo , intenções. Portanto, minha preferência é efeito colateral ou termos de loop de feedback .
Aleksandr Blekh
Eu diria que o aprendizado ativo, embora definitivamente relacionado, tende a se referir a uma técnica bastante específica, intencionalmente implantada, em vez da consequência não intencional de um tipo de modelo arbitrário que atua no conceito. Parece-me semelhante ao aprendizado por reforço. Essas técnicas provavelmente são úteis, uma vez que você tenha percebido que possui um loop de feedback em seu sistema, mas eu concordo com Aleksandr que elas expressam uma intenção de design que eu estava implicando que não existe no meu exemplo.
precisa saber é o seguinte
0

"Declaro-vos agora marido e mulher", um exemplo de enunciado pelo qual o falante realiza um ato em particular, é uma instância de um ato performativo , que muda a coisa que está sendo modelada e, portanto, muda o conceito. Reflexivo, iterativo, recursivo, retroativo, auto-gerador , são termos relacionados.

Laurent Duval
fonte