{"title":"Investigasi Pengaruh Skema Stride dan Step Training untuk Deteksi Jari Pada Region-based Fully Convolutional Network (R-FCN) dalam Teknologi Augmented Reality","authors":"Hashfi Fadhillah, Suryo Adhi Wibowo, Rita Purnamasari","doi":"10.22441//FIFO.2020.V12I2.003","DOIUrl":null,"url":null,"abstract":"Abstract Combining the real world with the virtual world and then modeling it in 3D is an effort carried on Augmented Reality (AR) technology. Using fingers for computer operations on multi-devices makes the system more interactive. Marker-based AR is one type of AR that uses markers in its detection. This study designed the AR system by detecting fingertips as markers. This system is designed using the Region-based Deep Fully Convolutional Network (R-FCN) deep learning method. This method develops detection results obtained from the Fully Connected Network (FCN). Detection results will be integrated with a computer pointer for basic operations. This study uses a predetermined step scheme to get the best IoU parameters, precision and accuracy. The scheme in this study uses a step scheme, namely: 25K, 50K and 75K step. High precision creates centroid point changes that are not too far away. High accuracy can improve AR performance under conditions of rapid movement and improper finger conditions. The system design uses a dataset in the form of an index finger image with a configuration of 10,800 training data and 3,600 test data. The model will be tested on each scheme using video at different distances, locations and times. This study produced the best results on the 25K step scheme with IoU of 69%, precision of 5.56 and accuracy of 96%.Keyword: Augmented Reality, Region-based Convolutional Network, Fully Convolutional Network, Pointer, Step training Abstrak Menggabungkan dunia nyata dengan dunia virtual lalu memodelkannya bentuk 3D merupakan upaya yang diusung pada teknologi Augmented Reality (AR). Menggunakan jari untuk operasi komputer pada multi-device membuat sistem yang lebih interaktif. Marker-based AR merupakan salah satu jenis AR yang menggunakan marker dalam deteksinya. Penelitian ini merancang sistem AR dengan mendeteksi ujung jari sebagai marker. Sistem ini dirancang menggunakan metode deep learning Region-based Fully Convolutional Network (R-FCN). Metode ini mengembangkan hasil deteksi yang didapat dari Fully Connected Network (FCN). Hasil deteksi akan diintegrasikan dengan pointer komputer untuk operasi dasar. Penelitian ini menggunakan skema step training yang telah ditentukan untuk mendapatkan parameter IoU, presisi dan akurasi yang terbaik. Skema pada penelitian ini menggunakan skema step yaitu: 25K, 50K dan 75K step. Presisi tinggi menciptakan perubahan titik centroid yang tidak terlalu jauh. Akurasi yang tinggi dapat meningkatkan kinerja AR dalam kondisi pergerakan yang cepat dan kondisi jari yang tidak tepat. Perancangan sistem menggunakan dataset berupa citra jari telunjuk dengan konfigurasi 10.800 data latih dan 3.600 data uji. Model akan diuji pada tiap skema dilakukan menggunakan video pada jarak, lokasi dan waktu yang berbeda. Penelitian ini menghasilkan hasil terbaik pada skema step 25K dengan IoU sebesar 69%, presisi sebesar 5,56 dan akurasi sebesar 96%.Kata kunci: Augmented Reality, Region-based Convolutional Network, Fully Convolutional Network, Pointer, Step training ","PeriodicalId":280491,"journal":{"name":"Jurnal Ilmiah FIFO","volume":"79 1","pages":"0"},"PeriodicalIF":0.0000,"publicationDate":"2021-03-05","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":"0","resultStr":null,"platform":"Semanticscholar","paperid":null,"PeriodicalName":"Jurnal Ilmiah FIFO","FirstCategoryId":"1085","ListUrlMain":"https://doi.org/10.22441//FIFO.2020.V12I2.003","RegionNum":0,"RegionCategory":null,"ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":null,"EPubDate":"","PubModel":"","JCR":"","JCRName":"","Score":null,"Total":0}
引用次数: 0
摘要
摘要将现实世界与虚拟世界相结合并进行三维建模是增强现实(AR)技术的研究方向。使用手指在多个设备上进行计算机操作,使系统更具互动性。基于标记的AR是一种使用标记进行检测的AR。本研究通过检测指尖作为标记来设计AR系统。本系统采用基于区域的深度全卷积网络(R-FCN)深度学习方法进行设计。该方法发展了全连接网络(FCN)的检测结果。检测结果将与计算机指针相结合,进行基本操作。本研究采用预定步进方案来获得最佳的IoU参数、精度和准确度。本研究方案采用步进方案,即:25K、50K、75K步进。高精度创建质心点变化不会太远。高精度可以提高AR在快速运动和手指不正确情况下的性能。系统设计使用了一个以食指图像为形式的数据集,配置了10800个训练数据和3600个测试数据。该模型将在不同的距离、地点和时间使用视频对每个方案进行测试。本研究采用25K步进方案获得最佳结果,IoU为69%,精密度为5.56,准确度为96%。关键词:增强现实,基于区域的卷积网络,全卷积网络,指针,步进训练蒙古纳坎加里乌克操作系统多设备人机交互系统。基于标记的AR merupakan salah satu jenis AR yang menggunakan标记dalam deteksinya。Penelitian ini merancang系统的AR登革和门限分析是基于jari sebagai标记的。基于区域的深度学习全卷积网络(R-FCN)。基于全连接网络(FCN)的全连接网络。Hasil deteksi和diintegrasic是一种指针式计算机,用于操作系统。Penelitian ini menggunakan skema步骤训练yang telah ditentukan untuk mendapatkan参数IoU, presisi dan akurasi yang terbaik。Skema帕巴达penelitian ini menggunakan Skema步幅:25K, 50K和75K步幅。Presisi tinggi menciptakan perubahan tititic质心yang tidak terlalu jauh。我的意思是,我的意思是,我的意思是我的意思是我的意思是我的意思是我的意思是我的意思是我的意思是我的意思是我的意思。Perancangan system menggunakan dataset berupa citra jari telunjuk dengan konfigurasi 10.800 data latih and 3.600 data uji。模特akan diuji padtiap skema dilakukan menggunakan视频padjarak, lokasi dan waktu yang berbeda。Penelitian ini menghasilkan hasil terbaik pada skema步骤25K dengan IoU sebesar 69%, presisi sebesar 5,56 dan akurasi sebesar 96%。Kata kunci:增强现实,基于区域的卷积网络,全卷积网络,指针,步骤训练
Investigasi Pengaruh Skema Stride dan Step Training untuk Deteksi Jari Pada Region-based Fully Convolutional Network (R-FCN) dalam Teknologi Augmented Reality
Abstract Combining the real world with the virtual world and then modeling it in 3D is an effort carried on Augmented Reality (AR) technology. Using fingers for computer operations on multi-devices makes the system more interactive. Marker-based AR is one type of AR that uses markers in its detection. This study designed the AR system by detecting fingertips as markers. This system is designed using the Region-based Deep Fully Convolutional Network (R-FCN) deep learning method. This method develops detection results obtained from the Fully Connected Network (FCN). Detection results will be integrated with a computer pointer for basic operations. This study uses a predetermined step scheme to get the best IoU parameters, precision and accuracy. The scheme in this study uses a step scheme, namely: 25K, 50K and 75K step. High precision creates centroid point changes that are not too far away. High accuracy can improve AR performance under conditions of rapid movement and improper finger conditions. The system design uses a dataset in the form of an index finger image with a configuration of 10,800 training data and 3,600 test data. The model will be tested on each scheme using video at different distances, locations and times. This study produced the best results on the 25K step scheme with IoU of 69%, precision of 5.56 and accuracy of 96%.Keyword: Augmented Reality, Region-based Convolutional Network, Fully Convolutional Network, Pointer, Step training Abstrak Menggabungkan dunia nyata dengan dunia virtual lalu memodelkannya bentuk 3D merupakan upaya yang diusung pada teknologi Augmented Reality (AR). Menggunakan jari untuk operasi komputer pada multi-device membuat sistem yang lebih interaktif. Marker-based AR merupakan salah satu jenis AR yang menggunakan marker dalam deteksinya. Penelitian ini merancang sistem AR dengan mendeteksi ujung jari sebagai marker. Sistem ini dirancang menggunakan metode deep learning Region-based Fully Convolutional Network (R-FCN). Metode ini mengembangkan hasil deteksi yang didapat dari Fully Connected Network (FCN). Hasil deteksi akan diintegrasikan dengan pointer komputer untuk operasi dasar. Penelitian ini menggunakan skema step training yang telah ditentukan untuk mendapatkan parameter IoU, presisi dan akurasi yang terbaik. Skema pada penelitian ini menggunakan skema step yaitu: 25K, 50K dan 75K step. Presisi tinggi menciptakan perubahan titik centroid yang tidak terlalu jauh. Akurasi yang tinggi dapat meningkatkan kinerja AR dalam kondisi pergerakan yang cepat dan kondisi jari yang tidak tepat. Perancangan sistem menggunakan dataset berupa citra jari telunjuk dengan konfigurasi 10.800 data latih dan 3.600 data uji. Model akan diuji pada tiap skema dilakukan menggunakan video pada jarak, lokasi dan waktu yang berbeda. Penelitian ini menghasilkan hasil terbaik pada skema step 25K dengan IoU sebesar 69%, presisi sebesar 5,56 dan akurasi sebesar 96%.Kata kunci: Augmented Reality, Region-based Convolutional Network, Fully Convolutional Network, Pointer, Step training