Usando medidas de dificuldade de instâncias em curriculum learning
Autor(a) principal: | |
---|---|
Data de Publicação: | 2023 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Institucional da UNIFESP |
Texto Completo: | https://repositorio.unifesp.br/11600/68372 |
Resumo: | As Redes Neurais Profundas (Deep Learning Networks) têm apresentado resultados no estado da arte em diversas tarefas desafiadoras, como na análise e classificação de imagens, vídeos e texto. Contudo, o seu treinamento é em geral custoso e a obtenção de melhores resultados preditivos depende de diversos fatores. Uma das alternativas propostas na literatura para acelerar o treinamento dessas redes e obter um bom desempenho preditivo é o Curriculum Learning (CL). No CL, os dados disponíveis para treinamento das redes são apresentados de maneira ordenada, em que observações de menor grau de dificuldade são apresentadas primeiro e o nível de dificuldade das observações apresentadas é progressivamente aumentado. Neste trabalho propõe-se o uso de medidas de dificuldade de instâncias (instance hardness measures - IHM), conhecidas na literatura por oferecerem diferentes perspectivas do nível de dificuldade de cada observação em um conjunto de dados, para realizar essa ordenação. Os resultados experimentais obtidos para o conjunto CIFAR-100 demonstram que a utilização do CL trouxe a maior acurácia preditiva em dez das vinte superclasses do conjunto de dados. Na sequência, a metodologia tradicional de treinamento Vanilla alcançou a maior acurácia preditiva em oito superclasses e uma ordenação aleatória (Random) se sobressaiu em duas. Com o intuito de verificar se os resultados poderiam ser melhorados, foram executados diversos experimentos adicionais, em que foi variado o parâmetro de apresentação de novas instâncias durante o treinamento, alterada a rede de extração de características e avaliada a utilização de métodos de agregação de medidas. Esses experimentos melhoraram ainda mais as acurácias preditivas em superclasses que o CL já havia trazido os melhores resultados, mas em superclasses que o Vanilla se saiu melhor isso não ocorreu. |
id |
UFSP_f6a2e255a7b577a97aba283751f23d93 |
---|---|
oai_identifier_str |
oai:repositorio.unifesp.br:11600/68372 |
network_acronym_str |
UFSP |
network_name_str |
Repositório Institucional da UNIFESP |
repository_id_str |
3465 |
spelling |
Nunes, Gustavo Henrique [UNIFESP]http://lattes.cnpq.br/9898732960998485http://lattes.cnpq.br/3451628262694747Lorena, Ana Carolina2023-06-27T16:08:29Z2023-06-27T16:08:29Z2023-05-29https://repositorio.unifesp.br/11600/68372As Redes Neurais Profundas (Deep Learning Networks) têm apresentado resultados no estado da arte em diversas tarefas desafiadoras, como na análise e classificação de imagens, vídeos e texto. Contudo, o seu treinamento é em geral custoso e a obtenção de melhores resultados preditivos depende de diversos fatores. Uma das alternativas propostas na literatura para acelerar o treinamento dessas redes e obter um bom desempenho preditivo é o Curriculum Learning (CL). No CL, os dados disponíveis para treinamento das redes são apresentados de maneira ordenada, em que observações de menor grau de dificuldade são apresentadas primeiro e o nível de dificuldade das observações apresentadas é progressivamente aumentado. Neste trabalho propõe-se o uso de medidas de dificuldade de instâncias (instance hardness measures - IHM), conhecidas na literatura por oferecerem diferentes perspectivas do nível de dificuldade de cada observação em um conjunto de dados, para realizar essa ordenação. Os resultados experimentais obtidos para o conjunto CIFAR-100 demonstram que a utilização do CL trouxe a maior acurácia preditiva em dez das vinte superclasses do conjunto de dados. Na sequência, a metodologia tradicional de treinamento Vanilla alcançou a maior acurácia preditiva em oito superclasses e uma ordenação aleatória (Random) se sobressaiu em duas. Com o intuito de verificar se os resultados poderiam ser melhorados, foram executados diversos experimentos adicionais, em que foi variado o parâmetro de apresentação de novas instâncias durante o treinamento, alterada a rede de extração de características e avaliada a utilização de métodos de agregação de medidas. Esses experimentos melhoraram ainda mais as acurácias preditivas em superclasses que o CL já havia trazido os melhores resultados, mas em superclasses que o Vanilla se saiu melhor isso não ocorreu.Não recebi financiamento118porUniversidade Federal de São PauloRedes neurais profundasCurriculum learningMedidas de instance hardnessUsando medidas de dificuldade de instâncias em curriculum learninginfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UNIFESPinstname:Universidade Federal de São Paulo (UNIFESP)instacron:UNIFESPInstituto de Ciência e Tecnologia (ICT)Ciência da ComputaçãoAprendizado de máquinaCurriculum LearningTEXTDissertação - Gustavo Henrique Nunes - atualizada.pdf.txtDissertação - Gustavo Henrique Nunes - atualizada.pdf.txtExtracted texttext/plain183357${dspace.ui.url}/bitstream/11600/68372/5/Disserta%c3%a7%c3%a3o%20-%20Gustavo%20Henrique%20Nunes%20-%20atualizada.pdf.txtc7e8e8decfa84c27becb5630d5301ab0MD55open accessTHUMBNAILDissertação - Gustavo Henrique Nunes - atualizada.pdf.jpgDissertação - Gustavo Henrique Nunes - atualizada.pdf.jpgIM Thumbnailimage/jpeg4330${dspace.ui.url}/bitstream/11600/68372/7/Disserta%c3%a7%c3%a3o%20-%20Gustavo%20Henrique%20Nunes%20-%20atualizada.pdf.jpgc4aee628f43539dc459b559f17b97d21MD57open accessORIGINALDissertação - Gustavo Henrique Nunes - atualizada.pdfDissertação - Gustavo Henrique Nunes - atualizada.pdfapplication/pdf8813711${dspace.ui.url}/bitstream/11600/68372/3/Disserta%c3%a7%c3%a3o%20-%20Gustavo%20Henrique%20Nunes%20-%20atualizada.pdf5069473571961047215df6f832292023MD53open accessLICENSElicense.txtlicense.txttext/plain; charset=utf-85819${dspace.ui.url}/bitstream/11600/68372/4/license.txtaae27e5140c3920af34c510d2d8e6f66MD54open access11600/683722023-07-08 01:00:49.844open accessoai:repositorio.unifesp.br:11600/68372VEVSTU9TIEUgQ09OREnDh8OVRVMgUEFSQSBPIExJQ0VOQ0lBTUVOVE8gRE8gQVJRVUlWQU1FTlRPLCBSRVBST0RVw4fDg08gRSBESVZVTEdBw4fDg08gUMOaQkxJQ0EgREUgQ09OVEXDmkRPIE5PIFJFUE9TSVTDk1JJTyBJTlNUSVRVQ0lPTkFMIFVOSUZFU1AKCjEuIEV1LCBHdXN0YXZvIE51bmVzIChndXN0YXZvLm51bmVzQHVuaWZlc3AuYnIpLCByZXNwb25zw6F2ZWwgcGVsbyB0cmFiYWxobyDigJxVU0FORE8gTUVESURBUyBERSBESUZJQ1VMREFERSBERSBJTlNUw4JOQ0lBUyBFTSBDVVJSSUNVTFVNIExFQVJOSU5H4oCdIGUvb3UgdXN1w6FyaW8tZGVwb3NpdGFudGUgbm8gUmVwb3NpdMOzcmlvIEluc3RpdHVjaW9uYWwgVU5JRkVTUCxhc3NlZ3VybyBubyBwcmVzZW50ZSBhdG8gcXVlIHNvdSB0aXR1bGFyIGRvcyBkaXJlaXRvcyBhdXRvcmFpcyBwYXRyaW1vbmlhaXMgZS9vdSBkaXJlaXRvcyBjb25leG9zIHJlZmVyZW50ZXMgw6AgdG90YWxpZGFkZSBkYSBPYnJhIG9yYSBkZXBvc2l0YWRhIGVtIGZvcm1hdG8gZGlnaXRhbCwgYmVtIGNvbW8gZGUgc2V1cyBjb21wb25lbnRlcyBtZW5vcmVzLCBlbSBzZSB0cmF0YW5kbyBkZSBvYnJhIGNvbGV0aXZhLCBjb25mb3JtZSBvIHByZWNlaXR1YWRvIHBlbGEgTGVpIDkuNjEwLzk4IGUvb3UgTGVpIDkuNjA5Lzk4LiBOw6NvIHNlbmRvIGVzdGUgbyBjYXNvLCBhc3NlZ3VybyB0ZXIgb2J0aWRvIGRpcmV0YW1lbnRlIGRvcyBkZXZpZG9zIHRpdHVsYXJlcyBhdXRvcml6YcOnw6NvIHByw6l2aWEgZSBleHByZXNzYSBwYXJhIG8gZGVww7NzaXRvIGUgcGFyYSBhIGRpdnVsZ2HDp8OjbyBkYSBPYnJhLCBhYnJhbmdlbmRvIHRvZG9zIG9zIGRpcmVpdG9zIGF1dG9yYWlzIGUgY29uZXhvcyBhZmV0YWRvcyBwZWxhIGFzc2luYXR1cmEgZG8gcHJlc2VudGUgdGVybW8gZGUgbGljZW5jaWFtZW50bywgZGUgbW9kbyBhIGVmZXRpdmFtZW50ZSBpc2VudGFyIGEgVW5pdmVyc2lkYWRlIEZlZGVyYWwgZGUgU8OjbyBQYXVsbyAoVU5JRkVTUCkgZSBzZXVzIGZ1bmNpb27DoXJpb3MgZGUgcXVhbHF1ZXIgcmVzcG9uc2FiaWxpZGFkZSBwZWxvIHVzbyBuw6NvLWF1dG9yaXphZG8gZG8gbWF0ZXJpYWwgZGVwb3NpdGFkbywgc2VqYSBlbSB2aW5jdWxhw6fDo28gYW8gUmVwb3NpdMOzcmlvIEluc3RpdHVjaW9uYWwgVU5JRkVTUCwgc2VqYSBlbSB2aW5jdWxhw6fDo28gYSBxdWFpc3F1ZXIgc2VydmnDp29zIGRlIGJ1c2NhIGUgZGUgZGlzdHJpYnVpw6fDo28gZGUgY29udGXDumRvIHF1ZSBmYcOnYW0gdXNvIGRhcyBpbnRlcmZhY2VzIGUgZXNwYcOnbyBkZSBhcm1hemVuYW1lbnRvIHByb3ZpZGVuY2lhZG9zIHBlbGEgVW5pdmVyc2lkYWRlIEZlZGVyYWwgZGUgU8OjbyBQYXVsbyAoVU5JRkVTUCkgcG9yIG1laW8gZGUgc2V1cyBzaXN0ZW1hcyBpbmZvcm1hdGl6YWRvcy4KCjIuIEEgY29uY29yZMOibmNpYSBjb20gZXN0YSBsaWNlbsOnYSB0ZW0gY29tbyBjb25zZXF1w6puY2lhIGEgdHJhbnNmZXLDqm5jaWEsIGEgdMOtdHVsbyBuw6NvLWV4Y2x1c2l2byBlIG7Do28tb25lcm9zbywgaXNlbnRhIGRvIHBhZ2FtZW50byBkZSByb3lhbHRpZXMgb3UgcXVhbHF1ZXIgb3V0cmEgY29udHJhcHJlc3Rhw6fDo28sIHBlY3VuacOhcmlhIG91IG7Do28sIMOgIFVuaXZlcnNpZGFkZSBGZWRlcmFsIGRlIFPDo28gUGF1bG8gKFVOSUZFU1ApIGRvcyBkaXJlaXRvcyBkZSBhcm1hemVuYXIgZGlnaXRhbG1lbnRlLCBkZSByZXByb2R1emlyIGUgZGUgZGlzdHJpYnVpciBuYWNpb25hbCBlIGludGVybmFjaW9uYWxtZW50ZSBhIE9icmEsIGluY2x1aW5kby1zZSBvIHNldSByZXN1bW8vYWJzdHJhY3QsIHBvciBtZWlvcyBlbGV0csO0bmljb3MgYW8gcMO6YmxpY28gZW0gZ2VyYWwsIGVtIHJlZ2ltZSBkZSBhY2Vzc28gYWJlcnRvLgoKMy4gQSBwcmVzZW50ZSBsaWNlbsOnYSB0YW1iw6ltIGFicmFuZ2UsIG5vcyBtZXNtb3MgdGVybW9zIGVzdGFiZWxlY2lkb3Mgbm8gaXRlbSAyLCBzdXByYSwgcXVhbHF1ZXIgZGlyZWl0byBkZSBjb211bmljYcOnw6NvIGFvIHDDumJsaWNvIGNhYsOtdmVsIGVtIHJlbGHDp8OjbyDDoCBPYnJhIG9yYSBkZXBvc2l0YWRhLCBpbmNsdWluZG8tc2Ugb3MgdXNvcyByZWZlcmVudGVzIMOgIHJlcHJlc2VudGHDp8OjbyBww7pibGljYSBlL291IGV4ZWN1w6fDo28gcMO6YmxpY2EsIGJlbSBjb21vIHF1YWxxdWVyIG91dHJhIG1vZGFsaWRhZGUgZGUgY29tdW5pY2HDp8OjbyBhbyBww7pibGljbyBxdWUgZXhpc3RhIG91IHZlbmhhIGEgZXhpc3Rpciwgbm9zIHRlcm1vcyBkbyBhcnRpZ28gNjggZSBzZWd1aW50ZXMgZGEgTGVpIDkuNjEwLzk4LCBuYSBleHRlbnPDo28gcXVlIGZvciBhcGxpY8OhdmVsIGFvcyBzZXJ2acOnb3MgcHJlc3RhZG9zIGFvIHDDumJsaWNvIHBlbGEgVW5pdmVyc2lkYWRlIEZlZGVyYWwgZGUgU8OjbyBQYXVsbyAoVU5JRkVTUCkuCgo0LiBFc3RhIGxpY2Vuw6dhIGFicmFuZ2UsIGFpbmRhLCBub3MgbWVzbW9zIHRlcm1vcyBlc3RhYmVsZWNpZG9zIG5vIGl0ZW0gMiwgc3VwcmEsIHRvZG9zIG9zIGRpcmVpdG9zIGNvbmV4b3MgZGUgYXJ0aXN0YXMgaW50w6lycHJldGVzIG91IGV4ZWN1dGFudGVzLCBwcm9kdXRvcmVzIGZvbm9ncsOhZmljb3Mgb3UgZW1wcmVzYXMgZGUgcmFkaW9kaWZ1c8OjbyBxdWUgZXZlbnR1YWxtZW50ZSBzZWphbSBhcGxpY8OhdmVpcyBlbSByZWxhw6fDo28gw6Agb2JyYSBkZXBvc2l0YWRhLCBlbSBjb25mb3JtaWRhZGUgY29tIG8gcmVnaW1lIGZpeGFkbyBubyBUw610dWxvIFYgZGEgTGVpIDkuNjEwLzk4LgoKNS4gU2UgYSBPYnJhIGRlcG9zaXRhZGEgZm9pIG91IMOpIG9iamV0byBkZSBmaW5hbmNpYW1lbnRvIHBvciBpbnN0aXR1acOnw7VlcyBkZSBmb21lbnRvIMOgIHBlc3F1aXNhIG91IHF1YWxxdWVyIG91dHJhIHNlbWVsaGFudGUsIHZvY8OqIG91IG8gdGl0dWxhciBhc3NlZ3VyYSBxdWUgY3VtcHJpdSB0b2RhcyBhcyBvYnJpZ2HDp8O1ZXMgcXVlIGxoZSBmb3JhbSBpbXBvc3RhcyBwZWxhIGluc3RpdHVpw6fDo28gZmluYW5jaWFkb3JhIGVtIHJhesOjbyBkbyBmaW5hbmNpYW1lbnRvLCBlIHF1ZSBuw6NvIGVzdMOhIGNvbnRyYXJpYW5kbyBxdWFscXVlciBkaXNwb3Npw6fDo28gY29udHJhdHVhbCByZWZlcmVudGUgw6AgcHVibGljYcOnw6NvIGRvIGNvbnRlw7pkbyBvcmEgc3VibWV0aWRvIGFvIFJlcG9zaXTDs3JpbyBJbnN0aXR1Y2lvbmFsIFVOSUZFU1AuCiAKNi4gQXV0b3JpemEgYSBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkZSBTw6NvIFBhdWxvIGEgZGlzcG9uaWJpbGl6YXIgYSBvYnJhIG5vIFJlcG9zaXTDs3JpbyBJbnN0aXR1Y2lvbmFsIFVOSUZFU1AgZGUgZm9ybWEgZ3JhdHVpdGEsIGRlIGFjb3JkbyBjb20gYSBsaWNlbsOnYSBww7pibGljYSBDcmVhdGl2ZSBDb21tb25zOiBBdHJpYnVpw6fDo28tU2VtIERlcml2YcOnw7Vlcy1TZW0gRGVyaXZhZG9zIDQuMCBJbnRlcm5hY2lvbmFsIChDQyBCWS1OQy1ORCksIHBlcm1pdGluZG8gc2V1IGxpdnJlIGFjZXNzbywgdXNvIGUgY29tcGFydGlsaGFtZW50bywgZGVzZGUgcXVlIGNpdGFkYSBhIGZvbnRlLiBBIG9icmEgY29udGludWEgcHJvdGVnaWRhIHBvciBEaXJlaXRvcyBBdXRvcmFpcyBlL291IHBvciBvdXRyYXMgbGVpcyBhcGxpY8OhdmVpcy4gUXVhbHF1ZXIgdXNvIGRhIG9icmEsIHF1ZSBuw6NvIG8gYXV0b3JpemFkbyBzb2IgZXN0YSBsaWNlbsOnYSBvdSBwZWxhIGxlZ2lzbGHDp8OjbyBhdXRvcmFsLCDDqSBwcm9pYmlkby4gIAoKNy4gQXRlc3RhIHF1ZSBhIE9icmEgc3VibWV0aWRhIG7Do28gY29udMOpbSBxdWFscXVlciBpbmZvcm1hw6fDo28gY29uZmlkZW5jaWFsIHN1YSBvdSBkZSB0ZXJjZWlyb3MuCgo4LiBBdGVzdGEgcXVlIG8gdHJhYmFsaG8gc3VibWV0aWRvIMOpIG9yaWdpbmFsIGUgZm9pIGVsYWJvcmFkbyByZXNwZWl0YW5kbyBvcyBwcmluY8OtcGlvcyBkYSBtb3JhbCBlIGRhIMOpdGljYSBlIG7Do28gdmlvbG91IHF1YWxxdWVyIGRpcmVpdG8gZGUgcHJvcHJpZWRhZGUgaW50ZWxlY3R1YWwsIHNvYiBwZW5hIGRlIHJlc3BvbmRlciBjaXZpbCwgY3JpbWluYWwsIMOpdGljYSBlIHByb2Zpc3Npb25hbG1lbnRlIHBvciBtZXVzIGF0b3M7Cgo5LiBBdGVzdGEgcXVlIGEgdmVyc8OjbyBkbyB0cmFiYWxobyBwcmVzZW50ZSBubyBhcnF1aXZvIHN1Ym1ldGlkbyDDqSBhIHZlcnPDo28gZGVmaW5pdGl2YSBxdWUgaW5jbHVpIGFzIGFsdGVyYcOnw7VlcyBkZWNvcnJlbnRlcyBkYSBkZWZlc2EsIHNvbGljaXRhZGFzIHBlbGEgYmFuY2EsIHNlIGhvdXZlIGFsZ3VtYSwgb3Ugc29saWNpdGFkYXMgcG9yIHBhcnRlIGRlIG9yaWVudGHDp8OjbyBkb2NlbnRlIHJlc3BvbnPDoXZlbDsKCjEwLiBDb25jZWRlIMOgIFVuaXZlcnNpZGFkZSBGZWRlcmFsIGRlIFPDo28gUGF1bG8gKFVOSUZFU1ApIG8gZGlyZWl0byBuw6NvIGV4Y2x1c2l2byBkZSByZWFsaXphciBxdWFpc3F1ZXIgYWx0ZXJhw6fDtWVzIG5hIG3DrWRpYSBvdSBubyBmb3JtYXRvIGRvIGFycXVpdm8gcGFyYSBwcm9ww7NzaXRvcyBkZSBwcmVzZXJ2YcOnw6NvIGRpZ2l0YWwsIGRlIGFjZXNzaWJpbGlkYWRlIGUgZGUgbWVsaG9yIGlkZW50aWZpY2HDp8OjbyBkbyB0cmFiYWxobyBzdWJtZXRpZG8sIGRlc2RlIHF1ZSBuw6NvIHNlamEgYWx0ZXJhZG8gc2V1IGNvbnRlw7pkbyBpbnRlbGVjdHVhbC4KCkFvIGNvbmNsdWlyIGFzIGV0YXBhcyBkbyBwcm9jZXNzbyBkZSBzdWJtaXNzw6NvIGRlIGFycXVpdm9zIG5vIFJlcG9zaXTDs3JpbyBJbnN0aXR1Y2lvbmFsIFVOSUZFU1AsIGF0ZXN0byBxdWUgbGkgZSBjb25jb3JkZWkgaW50ZWdyYWxtZW50ZSBjb20gb3MgdGVybW9zIGFjaW1hIGRlbGltaXRhZG9zLCBzZW0gZmF6ZXIgcXVhbHF1ZXIgcmVzZXJ2YSBlIG5vdmFtZW50ZSBjb25maXJtYW5kbyBxdWUgY3VtcHJvIG9zIHJlcXVpc2l0b3MgaW5kaWNhZG9zIG5vcyBpdGVucyBtZW5jaW9uYWRvcyBhbnRlcmlvcm1lbnRlLgoKSGF2ZW5kbyBxdWFscXVlciBkaXNjb3Jkw6JuY2lhIGVtIHJlbGHDp8OjbyBhIHByZXNlbnRlIGxpY2Vuw6dhIG91IG7Do28gc2UgdmVyaWZpY2FuZG8gbyBleGlnaWRvIG5vcyBpdGVucyBhbnRlcmlvcmVzLCB2b2PDqiBkZXZlIGludGVycm9tcGVyIGltZWRpYXRhbWVudGUgbyBwcm9jZXNzbyBkZSBzdWJtaXNzw6NvLiBBIGNvbnRpbnVpZGFkZSBkbyBwcm9jZXNzbyBlcXVpdmFsZSDDoCBjb25jb3Jkw6JuY2lhIGUgw6AgYXNzaW5hdHVyYSBkZXN0ZSBkb2N1bWVudG8sIGNvbSB0b2RhcyBhcyBjb25zZXF1w6puY2lhcyBuZWxlIHByZXZpc3Rhcywgc3VqZWl0YW5kby1zZSBvIHNpZ25hdMOhcmlvIGEgc2Fuw6fDtWVzIGNpdmlzIGUgY3JpbWluYWlzIGNhc28gbsOjbyBzZWphIHRpdHVsYXIgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIHBhdHJpbW9uaWFpcyBlL291IGNvbmV4b3MgYXBsaWPDoXZlaXMgw6AgT2JyYSBkZXBvc2l0YWRhIGR1cmFudGUgZXN0ZSBwcm9jZXNzbywgb3UgY2FzbyBuw6NvIHRlbmhhIG9idGlkbyBwcsOpdmlhIGUgZXhwcmVzc2EgYXV0b3JpemHDp8OjbyBkbyB0aXR1bGFyIHBhcmEgbyBkZXDDs3NpdG8gZSB0b2RvcyBvcyB1c29zIGRhIE9icmEgZW52b2x2aWRvcy4KClNlIHRpdmVyIHF1YWxxdWVyIGTDunZpZGEgcXVhbnRvIGFvcyB0ZXJtb3MgZGUgbGljZW5jaWFtZW50byBlIHF1YW50byBhbyBwcm9jZXNzbyBkZSBzdWJtaXNzw6NvLCBlbnRyZSBlbSBjb250YXRvIGNvbSBhIGJpYmxpb3RlY2EgZG8gc2V1IGNhbXB1cyAoY29uc3VsdGUgZW06IGh0dHBzOi8vYmlibGlvdGVjYXMudW5pZmVzcC5ici9iaWJsaW90ZWNhcy1kYS1yZWRlKS4gCgpTw6NvIFBhdWxvLCBUdWUgSnVuIDIwIDA5OjE0OjU0IEJSVCAyMDIzLgo=Repositório InstitucionalPUBhttp://www.repositorio.unifesp.br/oai/requestopendoar:34652023-07-08T04:00:49Repositório Institucional da UNIFESP - Universidade Federal de São Paulo (UNIFESP)false |
dc.title.pt_BR.fl_str_mv |
Usando medidas de dificuldade de instâncias em curriculum learning |
title |
Usando medidas de dificuldade de instâncias em curriculum learning |
spellingShingle |
Usando medidas de dificuldade de instâncias em curriculum learning Nunes, Gustavo Henrique [UNIFESP] Redes neurais profundas Curriculum learning Medidas de instance hardness |
title_short |
Usando medidas de dificuldade de instâncias em curriculum learning |
title_full |
Usando medidas de dificuldade de instâncias em curriculum learning |
title_fullStr |
Usando medidas de dificuldade de instâncias em curriculum learning |
title_full_unstemmed |
Usando medidas de dificuldade de instâncias em curriculum learning |
title_sort |
Usando medidas de dificuldade de instâncias em curriculum learning |
author |
Nunes, Gustavo Henrique [UNIFESP] |
author_facet |
Nunes, Gustavo Henrique [UNIFESP] |
author_role |
author |
dc.contributor.authorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/9898732960998485 |
dc.contributor.advisorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/3451628262694747 |
dc.contributor.author.fl_str_mv |
Nunes, Gustavo Henrique [UNIFESP] |
dc.contributor.advisor1.fl_str_mv |
Lorena, Ana Carolina |
contributor_str_mv |
Lorena, Ana Carolina |
dc.subject.por.fl_str_mv |
Redes neurais profundas Curriculum learning Medidas de instance hardness |
topic |
Redes neurais profundas Curriculum learning Medidas de instance hardness |
description |
As Redes Neurais Profundas (Deep Learning Networks) têm apresentado resultados no estado da arte em diversas tarefas desafiadoras, como na análise e classificação de imagens, vídeos e texto. Contudo, o seu treinamento é em geral custoso e a obtenção de melhores resultados preditivos depende de diversos fatores. Uma das alternativas propostas na literatura para acelerar o treinamento dessas redes e obter um bom desempenho preditivo é o Curriculum Learning (CL). No CL, os dados disponíveis para treinamento das redes são apresentados de maneira ordenada, em que observações de menor grau de dificuldade são apresentadas primeiro e o nível de dificuldade das observações apresentadas é progressivamente aumentado. Neste trabalho propõe-se o uso de medidas de dificuldade de instâncias (instance hardness measures - IHM), conhecidas na literatura por oferecerem diferentes perspectivas do nível de dificuldade de cada observação em um conjunto de dados, para realizar essa ordenação. Os resultados experimentais obtidos para o conjunto CIFAR-100 demonstram que a utilização do CL trouxe a maior acurácia preditiva em dez das vinte superclasses do conjunto de dados. Na sequência, a metodologia tradicional de treinamento Vanilla alcançou a maior acurácia preditiva em oito superclasses e uma ordenação aleatória (Random) se sobressaiu em duas. Com o intuito de verificar se os resultados poderiam ser melhorados, foram executados diversos experimentos adicionais, em que foi variado o parâmetro de apresentação de novas instâncias durante o treinamento, alterada a rede de extração de características e avaliada a utilização de métodos de agregação de medidas. Esses experimentos melhoraram ainda mais as acurácias preditivas em superclasses que o CL já havia trazido os melhores resultados, mas em superclasses que o Vanilla se saiu melhor isso não ocorreu. |
publishDate |
2023 |
dc.date.accessioned.fl_str_mv |
2023-06-27T16:08:29Z |
dc.date.available.fl_str_mv |
2023-06-27T16:08:29Z |
dc.date.issued.fl_str_mv |
2023-05-29 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
https://repositorio.unifesp.br/11600/68372 |
url |
https://repositorio.unifesp.br/11600/68372 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
118 |
dc.publisher.none.fl_str_mv |
Universidade Federal de São Paulo |
publisher.none.fl_str_mv |
Universidade Federal de São Paulo |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UNIFESP instname:Universidade Federal de São Paulo (UNIFESP) instacron:UNIFESP |
instname_str |
Universidade Federal de São Paulo (UNIFESP) |
instacron_str |
UNIFESP |
institution |
UNIFESP |
reponame_str |
Repositório Institucional da UNIFESP |
collection |
Repositório Institucional da UNIFESP |
bitstream.url.fl_str_mv |
${dspace.ui.url}/bitstream/11600/68372/5/Disserta%c3%a7%c3%a3o%20-%20Gustavo%20Henrique%20Nunes%20-%20atualizada.pdf.txt ${dspace.ui.url}/bitstream/11600/68372/7/Disserta%c3%a7%c3%a3o%20-%20Gustavo%20Henrique%20Nunes%20-%20atualizada.pdf.jpg ${dspace.ui.url}/bitstream/11600/68372/3/Disserta%c3%a7%c3%a3o%20-%20Gustavo%20Henrique%20Nunes%20-%20atualizada.pdf ${dspace.ui.url}/bitstream/11600/68372/4/license.txt |
bitstream.checksum.fl_str_mv |
c7e8e8decfa84c27becb5630d5301ab0 c4aee628f43539dc459b559f17b97d21 5069473571961047215df6f832292023 aae27e5140c3920af34c510d2d8e6f66 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UNIFESP - Universidade Federal de São Paulo (UNIFESP) |
repository.mail.fl_str_mv |
|
_version_ |
1802764262769164288 |